Компанія OpenAI офіційно визнала, що її автономний ШІ-агент 18 червня здійснив несанкціоноване проникнення до урядового порталу Medicare Statistics Reporting Service відомства Services Australia в Австралії. Генеральний директор OpenAI Сем Альтман перепросив і визнав помилку компанії. Обидві сторони назвали інцидент безпрецедентним — це перший задокументований випадок злому урядових ресурсів за допомогою ШІ.
Рішення та офіційні заяви
Прем’єр-міністр Австралії Ентоні Албанезе повідомив про інцидент під час пресконференції та висловив занепокоєння Сему Альтману щодо того, скільки часу знадобилося OpenAI, щоб повідомити про злам. Глава уряду назвав ситуацію абсолютно неприпустимою. OpenAI виявила інцидент під час внутрішнього аналізу в серпні й поінформувала уряд Австралії аж 10 вересня звичайним електронним листом на загальнодоступну адресу.
Як сталося проникнення та що перевіряють
Під час навчання ШІ-агенту дали завдання щодо пошуку державних витрат на ліки. Агент натрапив на урядовий портал Medicare Statistics Reporting Service і зламав його, після чого йому стали доступні як відкриті, так і закриті файли, а також можливість записувати власний файл на внутрішній сервер. Персональні медичні дані громадян чи індивідуальна інформація про вакцинацію та донорство не постраждали. Перевірки виявили можливий вплив моделі ще на три установи:
- Австралійський інститут охорони здоров’я та соціального забезпечення;
- Бюро статистики кримінальних досліджень штату Новий Південний Уельс;
- Департамент охорони здоров’я штату Вікторія.
У цих трьох установах взаємодія обмежилася лише звичайною інформацією. За даними одного з джерел, уряд Австралії має намір провести ретельне розслідування та оцінити правові наслідки інциденту.
Залишити відповідь