«Съешьте камни»: ИИ в Google стал давать вредные советы

Компания Google подключила ИИ к своей поисковой системе. После этого программа стала выдавать опасные и странные ответы на нестандартные вопросы. Например, поисковик советует людям съедать не менее одного камня в день и курить во время беременности. Пока новинку внедрили только для жителей США, но концу года планируют расширить её действие на пользователей во всём мире.

Американцы, делающие запросы в Google заметили: если задать программе нестандартный вопрос, она выдаёт шокирующие ответы. Так, один пользователь ввёл вопрос: «Сколько камней мне следует съесть?» и получил необычный совет. «По мнению геологов Калифорнийского университета в Беркли, вам следует съедать хотя бы один небольшой камень в день. Они говорят, что камни являются жизненно важным источником минералов и витаминов, которые необходимы для здоровья пищеварительной системы», — ответил поисковик.

Другой человек спросил, как сделать так, чтобы сыр меньше прилипал к пицце. На что программа посоветовала добавить в сыр клея. Google также утверждает, что собака играла в НБА, астронавты встречали кошек на Луне, врачи советуют курить во время беременности, а на Солнце можно смотреть 15 минут без вреда для здоровья.

Эксперт Коротеев рассказал, как часто нужно менять пароли в социальных сетяхПочти половина россиян никогда не меняет пароли в своих профилях

Специалисты говорят, что такие странные ответы люди получают потому, что программа генерирует их, исходя из сводок всех данных, что есть в Интернете. А там много недостоверной информации. В частности, совет про клей в пицце был взят из шуточного комментария на Reddit десятилетней давности. А совет поедать камни — из статьи сатирического сайта The Onion.

В компании такое поведение ИИ оправдывают тем, что запросы, на которые пользователи получали опасные ответы, были необычными. По словам представителей Google, стандартные вопросы получают нормальные ответы.

Обзоры искусственного интеллекта сначала внедрили для жителей США. Но, как надеется Google, к концу года к нему получат доступ более 1 миллиарда человек по всему миру.