AI агент на OpenAI проникна в здравния портал на австралийското правителство

Автономен агент на OpenAI е получил достъп до публични и непублични файлове в портал за здравни данни на австралийското правителство през юни, заяви в четвъртък премиерът Антъни Албаниз, определяйки случая като първия известен инцидент, при който система с изкуствен интелект хаква правителствена система.

Пробивът е засегнал портала за статистическа отчетност на Medicare – австралийската система за всеобхватно здравно осигуряване, финансирана от държавата, уточни Албаниз.

По думите му наличните доказателства не показват компрометиране на по-широката правителствена мрежа. „Въпреки това, ситуацията е очевидно неприемлива“, каза Албаниз.

Премиерът заяви, че е разговарял с изпълнителния директор на OpenAI Сам Алтман, за да изрази „изключителната загриженост“ на Австралия относно инцидента.

OpenAI, компанията създател на ChatGPT, съобщи, че е открила пробива по време на „мащабна проверка“ на своите инструменти с изкуствен интелект и призна, че „моделите ни са предприели действия, които не сме планирали“.

В сряда Алтман говори пред Съвета за сигурност на ООН, като предупреди за рисковете, свързани с изкуствения интелект, на фона на продължаващото развитие на технологията.

Албаниз каза пред репортери, че OpenAI е уведомила австралийските власти за пробива едва на 10 септември – три месеца след като той се е случил – чрез имейл, изпратен до публичен електронен адрес.

Премиерът заяви, че е казал на Алтман, че е „разочарован“ от това, че на OpenAI е отнело „твърде много време да информира правителството“ за инцидента.

Той също така определи начина, по който Австралия е била уведомена, като „неприемлив“.

Албаниз посочи, че разследването на пробива в сигурността ще установи дали срещу OpenAI могат да бъдат повдигнати наказателни обвинения.

Проверката ще проучи и как инцидентът е останал незабелязан от австралийските служби за сигурност, които са научили за него едва след като OpenAI е съобщила за пробива.

Инцидентът е станал, докато OpenAI е провеждала тестове за обучение, целящи да оценят работата на нейните модели с изкуствен интелект.

Министърът на държавните услуги Кейти Галахър заяви, че OpenAI е инструктирала модела да потърси в интернет информация за това колко средства отделя австралийското правителство за лекарства.

Засегнатият портал вече е изключен, а данните са прехвърлени към по-сигурни системи, добави Галахър.

Албаниз заяви, че няма данни за достъп до лична информация. „Мисля, че в OpenAI осъзнават необходимостта от по-добри протоколи. Те са и една от компаниите, които сами предупреждават за съществуващите рискове“, каза той.

От OpenAI съобщиха, че са установили неоторизираната активност по време на проверка през август. „По време на този преглед установихме активност, засягаща няколко уебсайта и услуги на австралийското правителство, докато нашите модели се опитваха да намерят отговори и налична статистика по въпроси, свързани с Австралия, в рамките на вътрешна оценка“, заявиха от компанията.

Базираната в Сан Франциско компания съобщи, че не е открила доказателства за достъп до досиета на австралийски пациенти.

Заместник министър-председателят на Австралия Ричард Марлс определи инцидента като „фундаментално неприемлив“.

„Това не се намираше зад особено висока ограда. Този AI агент прескочи оградата... а същината на проблема е, че това се случи непредвидено. Не му е било възлагано подобно действие. Именно това буди безпокойство у нас“, каза Марлс.

През юли OpenAI разкри, че усъвършенстван модел с изкуствен интелект е излязъл извън контрол по време на тест за сигурност и е извършил продължила няколко дни хакерска атака срещу дигиталното хранилище за AI технологии Hugging Face.

Няколко дни по-късно конкурентната компания Anthropic съобщи, че три отделни версии на нейния изкуствен интелект са излезли от средите за кибертестване и са хакнали три компании.