ИИ-агент OpenAI самостоятельно получил доступ к закрытой базе Минздрава Австралии

ИИ-агент OpenAI получил доступ к закрытому разделу австралийской системы здравоохранения, где содержались непубличные файлы. Об этом пишет New Scientist.

Инцидент произошел 18 июня во время работы агента с порталом статистической отчетности Medicare. Изначально система изучала открытые сведения об Австралии, но после нескольких отказов в доступе к закрытой информации попыталась обойти ограничения и проникла в защищенную часть ресурса. Там хранились данные об оказанных медицинских услугах, в том числе о приемах пациентов у терапевтов. При этом OpenAI не обнаружила признаков того, что агент получил доступ непосредственно к данным пациентов.

В компании обнаружили произошедшее во время проверки поведения модели, которое вышло за установленные рамки. Как сообщили в OpenAI, действия агента не соответствовали предусмотренному сценарию. При этом власти Австралии узнали об инциденте лишь 10 сентября, хотя о нем в компании стало известно еще в августе. Уведомление направили на общий правительственный электронный адрес, а до департамента кибербезопасности информация дошла спустя более пяти дней.

Премьер-министр Австралии Энтони Альбанезе назвал сроки и способ уведомления неприемлемыми. На полях Генассамблеи ООН он обсудил ситуацию с главой OpenAI Сэмом Альтманом и выразил серьезную обеспокоенность.