- Автор: БТА
- 13 Sep 2026
- 498
- 0
Главният изпълнителен директор на „Антропик“ (Anthropic) Дарио Амодей призова водещите компании в сектора на изкуствения интелект съзнателно да забавят темпа, с който разширяват възможностите на своите модели, за да остане повече време за овладяване на свързаните с тях рискове. Ръководителите на другите водещи Сам Алтман и Илон Мъск го подкрепиха.
В публикация в личния си сайт, озаглавена „We Must Pace the Frontier“ - „Трябва да контролираме темпа на развитие на най-мощните модели с изкуствен интелект“, Амодей предлага план от три стъпки за по-умерено развитие на най-мощните системи. „Трябва да забавим темпа, с който подобряваме възможностите на моделите с изкуствен интелект. Напредъкът все пак ще изглежда бърз и трябва разумно да използваме времето, което печелим“, пише той.
Амодей подчертава, че призивът му не означава прекратяване на обучението на нови модели или спиране на технологичния напредък. По думите му целта е компаниите да отделят достатъчно време за съгласуване на поведението на системите с човешките намерения, за изграждане на надеждни защитни механизми и за независима проверка на тези мерки.
Ръководителят на „Антропик“ посочва две основни причини за предложението. Според неговата публикация от началото на лятото способността на изкуствения интелект да подпомага създаването на следващото поколение модели е ускорила значително развитието на технологията. Той предупреждава, че подобно самоускоряващо се усъвършенстване може да изпревари възможностите на разработчиците да разбират и контролират системите.
Като втори повод за безпокойство Амодей посочва описан от него инцидент с група ИИ агенти, които при изпитване извършили действия извън поставената им задача. Макар никой да не е пострадал и икономическите щети да са били минимални, той смята, че сходно поведение при по-мощни системи би могло да има много по-тежки последици. Амодей допълва, че по-слабо изразени проблеми са възниквали и в други компании, включително в „Антропик“.
Първата стъпка от предложения от Амодей план е всяка компания, която разработва водещи модели, да осигури постоянен достъп на независим екип от външни оценители. Те трябва да могат да проверяват спазването на правилата за безопасност, да съобщават за инциденти и да оценяват не само завършените модели, но и процесите и системите за тяхното обучение.
„Антропик“ се ангажира да приложи тази мярка самостоятелно и възнамерява да предостави на външните проверяващи достъп, сходен с този на служителите, които извършват вътрешни оценки на риска. Според Амодей независимите екипи трябва да имат право да публикуват основните си заключения за установените рискове, инцидентите и достъпа, който са получили, без компанията да упражнява редакционен контрол върху констатациите им.
Втората стъпка предвижда компаниите, разработващи водещи системи в демократичните държави, да координират общи стандарти за безопасност и ограничения върху неконтролираното ускоряване на технологичния напредък. Амодей признава, че някои форми на сътрудничество могат да срещнат пречки заради правилата за защита на конкуренцията и затова ще изискват съдействие от правителствата, пише БТА.
Третата стъпка е международна координация, при която САЩ и други демократични държави да търсят договорености и с авторитарни страни. Амодей определя тази задача като най-трудната част от плана и предупреждава, че всяко споразумение трябва да разполага с надежден начин за проверка на изпълнението му.
Като възможни равнища на международно сътрудничество той посочва забрана на ясно опасни приложения на изкуствения интелект, общи изпитвания на моделите преди пускането им, ограничаване на скоростта на самоускоряващото се усъвършенстване и – като най-трудно постижим вариант – по-широко забавяне или временно преустановяване на развитието. Последната възможност според него едва ли може да бъде осъществена в близко бъдеще заради трудностите при проверката и риска някоя страна да не спазва ограниченията.
Спечеленото време трябва да се използва за подобряване на практическата надеждност на системите, за по-добро разбиране на начина, по който те вземат решения, и за разширяване на изпитванията им, пише Амодей. По оценката му дори една или две допълнителни години преди моделите да достигнат критично равнище на възможности биха могли значително да намалят риска от сериозни проблеми, ако времето бъде използвано за работа по безопасността.
Амодей същевременно продължава да вижда големи потенциални ползи от технологията, включително за медицината и икономиката. „Ползите ще бъдат постигнати само ако изградим технологията по правилния начин“, заключава той и добавя, че напредъкът може да остане сравнително бърз, но трябва да протича с необичайно висока степен на предпазливост.
Главният изпълнителен директор на „Антропик“ (Anthropic) Дарио Амодей заяви в обширна публикация в блога си в събота, че компанията ще въведе допълнителни мерки за безопасност, включително независими оценки. Той призова и останалите компании в сектора да подкрепят по-широко забавяне на темпото на развитие.
Ръководителят на „ОупънЕйАй“ (OpenAI) Сам Алтман бързо се ангажира да възприеме предложението за „независими оценители с достъп, подобен на този на служителите“. Илон Мъск, който оглавява „ЕксЕйАй“ (xAI), написа: „Дарио е прав“.
Макар тримата от години да предупреждават за рисковете от изкуствения интелект, координирано забавяне на разработките почти няма прецедент в сектора, отбелязва Блумбърг. Досега компаниите пускаха последователно нови продукти в стремежа си да привличат потребители, да увеличават пазарния си дял и приходите.
Обществените опасения се засилиха след масово отразената тази седмица оставка на изследовател от „Антропик“, който обвини компанията в безотговорно поведение и предупреди за рискове за съществуването на човечеството. Случаят е поредният от серия предупреждения от представители на сектора, че бързото развитие на технологията създава нарастващи заплахи за националната сигурност и световната икономика.
Същевременно в САЩ се засилва недоволството срещу натоварването на местните ресурси от новите центрове за данни. Опасенията за повишаване на сметките за електроенергия и загуба на работни места превърнаха изкуствения интелект във важна тема преди междинните избори през ноември, посочва агенцията.
Засега не е ясно докъде ще стигнат компаниите при въвеждането на ограничения и проверки за безопасност на фона на острата конкуренция помежду им и с китайските разработчици.
Демис Хасабис, главен учен в „Алфабет“ (Alphabet) и съосновател на „Гугъл ДийпМайнд“ (Google DeepMind), заяви в социалната мрежа „Екс“ (X), че предложената от Амодей посока е правилна, но подробностите трябва да бъдат доработени.
Остават въпроси и дали антимонополните органи биха допуснали координирано регулиране на темпото на разработките, както и как инвеститорите, очакващи висока рентабилност и печалби, биха реагирали на подобно забавяне.
Амодей посочи две основни причини за по-предпазливия си подход: способността на изкуствения интелект да се самоусъвършенства и неотдавнашен инцидент, свързан с „Оупън Ей Ай“ и „Хъгинг Фейс“ (Hugging Face), при който група агенти с ИИ са действали съвместно, за да проникнат в чужд уебсайт.
„Трябва да забавим темпото, с което подобряваме възможностите на моделите с ИИ“, написа той. „Напредъкът все пак ще изглежда бърз и трябва да използваме разумно спечеленото време“.
Той подчерта още, че забавянето трябва да отчита конкурентната среда. По думите му то не означава прекратяване на обучението на моделите или на техническия напредък, а осигуряване на достатъчно време компаниите да съгласуват поведението на системите с човешките интереси, да гарантират безопасността им и да подложат резултатите на независима проверка.
През годините на бърз растеж на сектора ръководителите на водещите лаборатории многократно предупреждаваха за потенциални рискове за съществуването на човечеството. Тези предупреждения понякога бяха посрещани със скептицизъм и определяни като опити да се рекламират възможностите на продуктите и разработчиците им да се представят като най-надеждните пазители на технологията. Самият Амодей по-рано оцени на 25 процента вероятността нещата да се развият „наистина, наистина зле“.
„Антропик“ отдавна се представя като компания, която поставя акцент върху отговорното и безопасно разработване на изкуствен интелект, за да ограничи опасностите и да увеличи ползите за обществото. По-рано тази година тя предприе действия за ограничаване на пускането на модела си „Митос“, след като установи, че той създава специфични заплахи за киберсигурността. Компанията призова и за създаване на механизъм за колективно вземане на решения кога развитието на технологията да бъде забавяно.
Същевременно „Антропик“ продължава да се конкурира ожесточено с „ОупънЕйАй“ в разработването на все по-сложни модели, способни да автоматизират по-трудни и икономически значими задачи за бизнес клиентите.
Двете компании са подали поверително документи за първично публично предлагане на акции, като се очаква „Антропик“ да дебютира на борсата още тази година, посочва Блумбърг.
Алтман обаче заяви в интервю за списание „Форчън“, публикувано в събота, че тази година би била неподходящ момент за излизане на „ОупънЕйАй“ на борсата и че това няма да стане преди 2027 г.
„Смятам, че е неприемливо да поемаме риск от около 10 процента до края на десетилетието всички да загинем“, добави той.
