Бил Гейтс заявява, че саморегулирането на компаниите за изкуствен интелект не е достатъчно и че правителствата трябва да се включат в процеса на наблюдение.

Съоснователят на Microsoft и милиарден филантроп заяви, че изкуственият интелект е способен да помогне на злонамерени лица да навредят на милиарди хора.

Съоснователят на Microsoft и милиардер филантроп Бил Гейтс призова в сряда законодателите във Вашингтон да регулират развитието на изкуствения интелект, само седмици след като изпълнителните директори на някои от най-големите американски лаборатории за изкуствен интелект се съгласиха, че темпото на развитие на AI трябва да бъде забавено.

„Никой не смята, че саморегулацията е достатъчна“, каза Гейтс пред предаването на NBC News „Meet the Press“ в интервю, което ще бъде излъчено изцяло в неделя.

На въпроса на водещата Кристен Уелкър дали във Вашингтон трябва да бъде прието законодателство, Гейтс отговори: **„Абсолютно.“**

„Правоприлагащите органи и политиците трябва да се включат в обсъждането на това какви трябва да бъдат защитните механизми и системите за наблюдение“, каза той. „И това трябва да бъде задължително. Това ще представлява известна допълнителна тежест за индустрията, но няма да забави драстично това, което правят.“

По-рано този месец ръководителите на Anthropic и OpenAI — две от най-големите американски лаборатории за изкуствен интелект — заявиха, че надпреварата за разработване на мощни AI системи трябва да бъде забавена. Изказванията им по темата дойдоха, след като наскоро напусналият Anthropic разобличител Джейкъб Коксън публично заяви, че **„нито една от двете компании не действа отговорно. Те се състезават директно към самоусъвършенстващ се свръхинтелект и залагат живота ни.“**

„Хората, които изграждат AI, искрено вярват, че той може да ни убие всички до края на десетилетието“, добави Коксън в поредица от публикации в социалните мрежи и интервюта през същата седмица.

В интервюто си в сряда Гейтс не омаловажи риска AI да унищожи човечеството в рамките на няколко години, но призова американците да не пренебрегват и риска изкуственият интелект да бъде използван от злонамерени лица за причиняване на мащабни вреди още днес.

„AI със сигурност е достатъчно мощен, за да предизвика събития, които, знаете, могат да доведат до смъртта на един милиард души. Така че, макар да е доста трудно да се стигне до 100% вероятност, никога досега не е имало оръжие, толкова мощно, колкото комбинацията от хора със злонамерени намерения и най-новите AI инструменти“, каза той.

В интервю за „Meet the Press“ по-рано този месец Коксън заяви, че на AI компаниите трябва да бъде позволено да се саморегулират.

„Наистина смятам, че хората, които ръководят тези лаборатории, особено с оглед на последните им изявления, са напълно искрени. Те искат да забавят темпото“, каза той.

Появявайки се в същото предаване няколко седмици по-рано, председателят на Камарата на представителите Майк Джонсън, републиканец от Луизиана, отказа да свика обратно във Вашингтон членовете на Камарата, за да приемат законодателство, регулиращо темпото на развитие на AI, като заяви, че ще се довери на AI компаниите.

„Трябва да поставим някои ограничения, някои мерки за безопасност, за да гарантираме, че AI няма да излезе извън контрол“, каза Джонсън. Той добави, че макар ръководителите на AI компаниите да са призовали за забавяне, те все още не са предложили конкретен път напред, включващ федерално законодателство.

„Те самите дори нямат отговор към днешна дата. Затова не можем да избързваме и Конгресът да направи нещо, което би било в ущърб на националната сигурност“, каза Джонсън.

В есето си, в което призовава за забавяне на темпото на развитие на AI, главният изпълнителен директор на Anthropic Дарио Амодей изрично призова за глобално и федерално сътрудничество.

„Най-ефективният начин за контролиране на темпото е чрез регулация, насочена към всички американски компании, разработващи водещи AI системи, тъй като това обхваща дори онези, които не желаят да си сътрудничат доброволно“, написа той. По-късно в текста добави: **„Глобалното регулиране на темпото ще изисква сътрудничество с Китай — авторитарната държава, която безспорно разполага с най-напредналите AI възможности.“**

Сам Алтман, главният изпълнителен директор на OpenAI, също говори в сряда пред събрание на ООН, като призова за международни стандарти за **„измерване на възможностите, оценка на рисковете, определяне дали защитните механизми са достатъчни и запазване на реалния човешки надзор“** върху AI.

Основателят и главен изпълнителен директор на Meta Марк Зукърбърг не се съгласи с този подход.

„Не мисля, че имаме нужда от някаква координация на ниво цялата индустрия“, каза той пред NBC News в интервю, публикувано в четвъртък. „Мисля, че всяка лаборатория трябва да отдели необходимото време и когато установи, че има проблеми, просто да отдели необходимото вътрешно време, за да се увери, че продължава да работи безопасно.“

На ниво отделни щати някои губернатори вече започнаха процес на регулиране на AI компаниите и центровете за данни, които използват за развитието на технологиите си.

В Калифорния губернаторът Гавин Нюсъм миналата седмица подписа изпълнителна заповед за създаване на експертен съвет, който да изготви план за укрепване на законите на щата в областта на безопасността на AI.

Тази седмица в Мериленд и Ню Йорк губернаторите Уес Мур и Кати Хочъл също представиха планове, насочени към засилване на регулацията на AI в своите щати.

Заповедта на Мур създава **„тристранен подход“** към регулирането, докато тази на Хочъл създава нова служба — **Office of Digital Innovation, Governance, Integrity and Trust** — която ще следи за спазването на законовите изисквания от страна на AI компаниите.

Говорейки тази седмица на сесия на ООН, посветена на AI и човешкото развитие, президентът на Microsoft Брад Смит отхвърли идеята, че AI компаниите трябва да чакат федерална регулация, за да забавят темпото си, и ги разкритикува за това, че непрекъснато се състезават помежду си за създаването на все по-напреднали AI продукти.

„Представете си за момент, че в света има само две големи компании, които произвеждат граждански самолети“, каза Смит.

„Представете си, че някой влезе в офиса ви и каже: „Знам, че сме в надпревара кой пръв ще пусне следващия самолет, но се притесняваме, че самолетът ще се разбие и хора ще загинат.“ Бихте ли казали: „Трябва да спечеля тази надпревара“?“, попита Смит. „Или бихте казали: „Ще поставя безопасността на моите пътници и безопасността на обществото над това да спечеля надпреварата“? Това е фундаменталният въпрос.“