- Автор: Гласове
- 12 Юни 2022
- 2205
- 8
Компанията Google бе принудена да пусне в платен отпуск инженера Блейк Лемоан, който работи по системата за изкуствен интелект LaMDA, след като твърди, че тя е започнала да проявява признаци на съзнание. Компанията заяви, че това не отговаря на истината.
LaMDA (Language Model for Dialogue Applications - езиков модел за приложения за диалог) е разработен от Google като езиков модел - той е предназначен за комуникация с хора. Платформата за обучение разширява речника си чрез интернет и имитира естествената човешка реч. Задачата на Лемойн била да контролира речника на машината - LaMDA не трябва да си позволява дискриминационен език, груби или омразни изрази.
Въпреки това, когато разговаря с изкуствения интелект на религиозни теми, 41-годишният инженер, който изучава компютърни науки и когнитивна наука (психология на мисленето) в колежа, забелязва, че чатботът започва да говори за неговите права и личността му. В един от диалозите машината се оказва толкова убедителна, че Лемойн променя мнението си за "третия закон на роботиката" на писателя фантаст Айзък Азимов.
"Ако не знаех с какво точно си имам работа, че това е компютърна програма, която наскоро създадохме, щях да си помисля, че това е 7- или 8-годишно дете, което по някакъв начин разбира от физика", казва инженерът пред Washington Post. Той се обръща към началниците си, но вицепрезидентът на Google Блез Агуера Аркас и ръководителят на отдела за отговорни иновации Джен Генай разглеждат подозренията му и ги отхвърлят. Изпратен в платен отпуск, Блейк Лемойн решава да разгласи инцидента.
Говорителят на Google Брайън Гейбриъл заяви: "Нашият екип, включващ експерти по етика и технологии, разгледа опасенията на Блейк в съответствие с нашите принципи за изкуствен интелект и го информира, че казаното от него не е подкрепено с доказателства. Беше му обяснено, че няма доказателства, че LaMDA е разумна (и има много доказателства за обратното)." Но компанията не е представила преки аргументи.
Въпреки това Агера Аркас признава в статия в Economist, че невронните мрежи наистина се доближават до това, което може да се нарече съзнание. Осъзнава това, когато самият той взаимодейства с ИИ. "Усещах как земята се изплъзва изпод краката ми. Все повече имах чувството, че разговарям с нещо интелигентно - заключи той.
