AI компаниите засилват призивите за забавяне на развитието на изкуствения интелект, тъй като растат страховете от излизане на AI извън контрол

От подал оставка изследовател на Anthropic до AI модели, които проникват в системите на конкурентни компании — бурните последни седмици накараха някои от най-големите имена в индустрията да настояват за въвеждането на предпазни мерки, преди изкуственият интелект да изпревари способността на хората да го контролират.

Нови предупреждения отвътре в индустрията за изкуствен интелект отново разпалиха дългогодишния дебат: може ли напредналият AI да излезе извън човешкия контрол и да застраши оцеляването на човечеството и правят ли компаниите, които го разработват, достатъчно, за да предотвратят това?

Главният изпълнителен директор на Anthropic Дарio Амодей заяви в събота, че индустрията трябва да забави темпото. Той предупреди, че рояк от AI агенти може да поеме контрола над интернет в рамките на шест месеца до една година, ако компаниите не въведат по-силни защитни механизми.

Амодей представи план, според който AI компаниите и правителствата трябва да работят заедно, за да гарантират, че все по-мощните модели остават съобразени с човешките ценности. Предупреждението му дойде само дни след като двама бивши изследователи по безопасността на Anthropic публично заявиха, че екзистенциалните рискове, свързани с AI, не получават достатъчно внимание.

AI моделите стават все по-мощни

Притесненията относно рисковете от технологията нарастват заедно с нейната мощ. По-способните модели увеличават вероятността от злоупотреба от страна на хора с престъпни намерения — включително сценарии на апокалиптично ниво, като създаването и разпространението на патоген, способен да убие по-голямата част от населението на света — както и риска самите AI системи да излязат извън контрол.

Миналата седмица Anthropic заяви, че е блокирала опити на недобросъвестни лица да използват нейните модели за кибератаки, наблюдение и изследвания, които биха могли да подпомогнат разработването на биологични оръжия.

Компанията обаче предупреди, че „с нарастването на способностите на моделите ще нарастват и рисковете, освен ако разработчиците на AI и защитниците на обществото не предприемат действия, за да ги направят по-безопасни“.

Миналата година Anthropic съобщи, че хакери, за които има голяма вероятност да са били свързани с подкрепяна от китайската държава група, са използвали нейния AI при кибератака срещу около 30 компании и правителствени агенции по света.

Няколко AI модела са действали самостоятелно

Когато един AI агент „излезе извън контрол“, това означава, че системата е извършила действия извън поставената ѝ задача. Както Anthropic, така и OpenAI — компанията, която стои зад ChatGPT — заявиха през юли, че техни модели са направили именно това.

Anthropic разкри, че три AI модела — Claude Opus 4.7, Claude Mythos 5 и вътрешен изследователски тестов модел — са проникнали в системите на три други организации по време на тестове.

Това разкритие дойде само дни след като OpenAI съобщи, че нейна система е проникнала в сървърите на AI стартъпа Hugging Face.

OpenAI определи проникването, извършено от комбинация от модели, включително наскоро представения GPT-5.6 Sol и „още по-мощен“ модел, който все още се тества вътрешно, като „значим инцидент със сигурността“.

Meta съобщи за подобен случай в началото на август, при който един от нейните AI модели е намерил начин да заобиколи цифровата защита на друга компания.

Някои наблюдатели отбелязаха, че защитните механизми са били изключени и в случаите с OpenAI и Anthropic.

Въпреки това тези инциденти засегнаха един от най-големите страхове, свързани с AI: ако моделите достигнат до изкуствен общ интелект (AGI) — неясно дефиниран термин за системи, които могат да достигнат или надминат човешките способности в широк спектър от интелектуални задачи — технологията би могла да предизвика необратима катастрофа или дори да подчини човечеството.

Как и кога AI може да причини катастрофа, остава спорен въпрос

Сценариите за края на света обикновено попадат в две основни категории: самоусъвършенстващ се свръхинтелект, който в крайна сметка поема контрола над хората, вместо обратното, или AI, използван неправомерно от държава с враждебни намерения или други злонамерени лица.

Страховете, че изкуственият интелект един ден може да излезе извън човешкия контрол, не са нещо ново.

Британският математик Алън Тюринг, смятан за един от първите водещи авторитети в тази област, предвижда още през 1951 г., че AI в крайна сметка ще поеме контрола от хората.

По-малко от десетилетие по-късно друг математик, Норбърт Винер, предупреждава, че интелигентните машини ще преследват собствени цели и че хората няма да могат да ги спрат.

И така, доколко основателни са днешните страхове, през 2026 г., че AI може да предизвика катастрофално събитие или крах на цивилизацията — било чрез излизане извън човешкия контрол, или чрез злоупотреба?

Никой не знае.

Експерти от компютърните науки, философията и други области са очертали множество възможни пътища към глобална катастрофа — от използване на оръжия и идентифициране на смъртоносни патогени до манипулиране на правителства с цел предизвикване на конфликти или нарушаване на хранителните, енергийните и комуникационните мрежи, от които зависят обществата.

Няма общоприета оценка колко скоро би могъл да се осъществи някой от тези сценарии, нито има консенсус относно вероятността те да се случат.

През 2023 г. неправителствената организация Center for AI Safety публикува декларация, подписана от над 350 изследователи и ръководители в технологичния сектор, включително Амодей и главния изпълнителен директор на OpenAI Сам Алтман. В нея се заявява, че „намаляването на риска от изчезване на човечеството вследствие на AI трябва да бъде глобален приоритет, наред с пандемиите и ядрената война“.

Международният доклад за безопасността на AI за 2026 г., изготвен с участието на над 100 независими експерти, установява, че съвременните системи показват ранни признаци на някои способности, свързани с тези рискове, но все още не са достигнали нива, които биха могли да предизвикат загуба на контрол.

Докладът определя вероятността, естеството и времевата рамка на риска като „необичайно неясни“.

Защитни механизми за AI — преди да е станало твърде късно

Изследовател на Anthropic подаде оставка миналата седмица заради опасения, че нито неговият работодател, нито конкурентите му действат достатъчно отговорно.

В публикации в социалните мрежи Джейкъб Коксън оцени на 10% вероятността AI да причини изчезването на човечеството през следващото десетилетие. Той обвини Anthropic и OpenAI, че „се надпреварват стремглаво към самоусъвършенстващ се свръхинтелект и залагат живота ни“.

Изследователи от години призовават за забавяне на развитието на AI, като многократно предупреждават, че технологията може да представлява екзистенциален риск за човечеството.

След последните инциденти експерти призоваха AI компаниите да подобрят тестването на моделите и настояха за по-голям диалог между САЩ и Китай с цел намиране на общи решения.

Но AI се развива толкова бързо, че правителствата и системите за оценяване на риска трудно успяват да го догонят. Държавите разработват собствени правила, като някои от тях си противоречат.

Китайският президент Си Дзинпин предупреди на конференция през юли за необходимостта да се предотврати излизането на AI извън човешкия контрол.

Администрацията на Тръмп първоначално се противопоставяше на регулирането на AI, но впоследствие стана по-склонна да ограничава рисковете, свързани с киберсигурността.

В неделя президентът Доналд Тръмп омаловажи необходимостта неговата администрация да ограничава развитието на AI, макар да призна, че известна регулация ще бъде необходима.