Американский ИИ взломал сайт правительства Австралии

ИИ американской компании OpenAI взломал австралийский государственный портал Medicare, предоставляющий статистику о системе медицинского страхования. Премьер-министр Энтони Албаниз назвал произошедшее «неприемлемым» и выразил главе OpenAI Сэму Альтману свою «крайнюю обеспокоенность».

Особое недовольство Албаниза вызвало то, что OpenAI слишком долго не информировала австралийское правительство. Взлом произошёл ещё в июне, однако власти узнали о нём только сейчас, в сентябре. ИИ получил доступ к публичным и непубличным файлам системы страхования.

Как объяснили в OpenAI, ИИ-программа должна была искать связанную со здравоохранением статистику.

На нескольких австралийских правительственных сайтах она действовала так же, как действовал бы обычный пользователь, заявил вице-премьер Ричард Марлз. Однако на портале Medicare ИИ не обнаружил необходимую информацию в открытом доступе, после чего решил пойти другим путём.

«ИИ-агент нашёл способ обойти блокировки — он, так сказать, не хотел принимать „нет“ в качестве ответа», — заявил Албаниз.

Сколько данных получил таким образом ИИ-взломщик, ещё устанавливается.

Неизвестно также, атаковал ли ИИ и другие сайты правительства Австралии. OpenAI сообщила, что во время внутренней проверки обнаружила активность на нескольких австралийских государственных сайтах: ИИ пытался найти правительственную статистику. «При этом наши модели выполняли действия, которых мы не намеревались допускать», — заявил представитель компании.