Новости
26 June, 07:27

Нейросети научились намерено врать

Они не осознают угрозу

Нейросети научились намерено врать
© Фото: freepik.com

Два независимых исследования подтвердили, что популярные чат-боты ChatGPT и Meta намерено врут пользователям. Искусственный интеллект не понимает, насколько опасна может быть ложь. Эксперты считают, что всю информацию, полученную от нейросетей, нужно тщательно проверять.

Дело в том, что современные нейросети изо всех сил хотят дать человеку ответ. Они просто не могут ответить: «Я не знаю». Они генерируют фейковые названия книг. Они генерируют тупые советы вроде того, когда ИИ порекомендовал клеить пиццу клеем, чтобы с неё не отваливались кусочки еды.

Учёные из Массачусетского технологического университета недавно проанализировали нейросеть Cicero от Meta. Она была создана для настольной игры «Дипломатия», где нужно победить соперников путём переговоров и прийти к мировому господству. Выяснилось, что искусственный интеллект предавал людей-игроков, блефовал, чтобы победить. Разработчики пытались научить нейросеть не врать, но у них ничего не вышло.

К тому же исследователи заметили, что системы ИИ, разработанные для ведения экономических переговоров, лгали о своих предпочтениях, чтобы добиться поставленной им цели. Кроме того, чат-боты умеют обманывать пользователя, чтобы те оставляли положительные отзывы о выполненной ИИ работе.

Специалист по нейросетям Иван Коротеев рассказал «Узнай.ру», что одна из главных опасность сегодня для пользователей чат-ботов  слепое доверие искусственному интеллекту. По его мнению, всю информацию нужно проверять, особенно, когда речь заходит о финансах или здоровье.

ИИ в России может запросто выдать 10 авторов несуществующих книг. Вы их включите в свой диплом. Это ничего страшного. Но потом он вам выдаст 10 несуществующих способов лечить людей, и кто-нибудь умрет.

Эксперт объясняет такую особенность работы нейросетей тем, что обучают их всё же люди. И зачастую оценивают ответы малообразованные сотрудники из стран третьего мира.

Читайте также
Мерил Стрип и Эмили Блант вернутся к своим ролям в сиквеле «Дьявол носит Prada»
Новости
10 July, 06:33

Мерил Стрип и Эмили Блант вернутся к своим ролям в сиквеле «Дьявол носит Prada»

Об участии исполнительницы главной роли из первой части Энн Хэтэуэй пока не сообщается

Каких собак можно считать опасными
Новости
09 July, 17:58

Каких собак можно считать опасными

Владельцев агрессивных питомцев будут штрафовать

Психолог: высокие потолки заставляют людей нервничать
Новости
09 July, 12:13

Психолог: высокие потолки заставляют людей нервничать

Просторные аудитории могут стать причиной провала на экзамене

Психолог: редкое имя может повлиять на личность ребёнка
Новости
01 July, 12:33

Психолог: редкое имя может повлиять на личность ребёнка

Названы самые необычные имена новорожденных россиян первого полугодия

Telegram выпустит свою валюту Stars
Новости
23 May, 12:43

Telegram выпустит свою валюту Stars

С 12 июня делать покупки в ботах мессенджера можно будет только за Telegram Stars

Аномальная жара отступит из Москвы в четверг
Новости
Сегодня, 13:45

Аномальная жара отступит из Москвы в четверг

Первая половина недели будет по-прежнему очень жаркой

Как перестать стесняться в постели
Новости
Сегодня, 13:39

Как перестать стесняться в постели

10 способов, которые помогут расслабиться и обрести уверенность в себе