Бил Гейтс: Изкуственият интелект е достатъчно мощен, за да причини смъртта на милиард души

Бил Гейтс: Изкуственият интелект е достатъчно мощен, за да причини смъртта на милиард души

Изкуственият интелект е достатъчно мощен, за да помогне на хора със злонамерени намерения да предизвикат катастрофа с милиард жертви, предупреди Бил Гейтс. Съоснователят на Microsoft поиска задължителни правила и държавен контрол в САЩ, докато технологичните компании и политиците спорят кой трябва да определя границите пред развитието на ИИ.

В интервю за предаването Meet the Press на NBC News Гейтс заяви, че съчетанието от най-новите инструменти за изкуствен интелект и хора с лоши намерения създава опасност с невиждан досега мащаб. Той говори за възможен сценарий, а не прогнозира, че милиард души ще загинат. Не посочи и конкретно събитие, което според него би довело до толкова жертви.

Гейтс настоя американските законодатели да се намесят. Според него предпазните мерки и наблюдението върху мощните AI системи трябва да бъдат задължителни, а в определянето им да участват и политиците, и правоохранителните органи. На въпроса дали Вашингтон трябва да приеме законодателство той отговори утвърдително. По думите му това ще създаде известна тежест за индустрията, без непременно да спре развитието ѝ. „Никой не смята, че саморегулацията е достатъчна“, каза Гейтс.

Предупреждението му идва след поредица от публични спорове вътре в самата индустрия. Напусналият Anthropic изследовател Джейкъб Коксън обвини водещите компании, че се надпреварват към системи, способни да подобряват сами себе си, без да са овладели рисковете. Ръководителите на Anthropic и OpenAI също призоваха мерките за безопасност да вървят в крак с възможностите на новите модели. Anthropic заявява, че развитието трябва да се съобразява с готовността на защитите, а OpenAI подкрепи независими оценки, правила за докладване на сериозни инциденти и задължителен федерален надзор.

Съгласие за общ подход обаче няма. Основателят на Meta Марк Зукърбърг заяви пред NBC News, че всяка лаборатория трябва сама да преценява кога да забави работата си заради проблеми с безопасността. Председателят на Камарата на представителите Майк Джонсън също отказа да настоява за незабавен закон, като предупреди, че прибързани ограничения биха могли да навредят на националната сигурност на САЩ.

Темата вече е и на дневен ред в Конгреса. Американски законодатели обсъждат изисквания компаниите да проверяват най-мощните си модели съвместно с държавни експерти. Същевременно председателят на Федералната търговска комисия предупреди, че предложенията на големите AI компании за общи правила трябва да се разглеждат внимателно: според него те не бива да получават възможност сами да определят условия, които биха затруднили конкурентите им.

Натиск за международен надзор идва и от ООН. В обръщението си към Общото събрание тази седмица генералният секретар Антониу Гутериш призова за обща рамка за управление на рисковете от ИИ и независим контрол. Той предупреди, че решения на живот и смърт не бива да бъдат оставяни на машини. Така въпросът, поставен от Гейтс пред Вашингтон, вече стои и пред правителствата по света: кой проверява най-мощните системи и кой носи отговорност, ако защитите им се окажат недостатъчни?

Източници: NBC News, Reuters, "24 часа", Х

 

 

 

Коментари