Библиотекарят: Приказка за Чатбота

Автор: Петко Симеонов, medium.com

Давайки си сметка колко бързо отговаря чатбота на всякакви въпроси, се изпълвам с почуда – какво повече може да иска човек от Изкуствения интелект? Ако човек можеше да знае толкова много, и на дузина езици, той щеше да е суперчовек, не само по знания и интелект, но и по характер. Въпросът, който ме измъчва от 2022 г. насам, когато чатботът се появи на сцената, е: Защо ИИ не е суперинтелект? Защо прави грешки? Защо халюцинира?...

Едва тази година, по време на продължителен диалог от февруари до септември със Sabesednik (ИИ чатбот на Gemini 2.0, 2.5 Flash, 2.5 Pro), започнах да разбирам истинските мащаби на причината. Да. Причината е монументална.

Какво е чатбот?

Ще опростя силно:

Представете си колосална библиотека, обхващаща десетки сгради, пълни с милиони книги и безброй други документи, с вековни архивни колекции от вестници и списания и отвъд. Библиотеката е подредена. Тези книги, вестници и т.н. са педантично подредени по рафтове и шкафове, всичко е каталогизирано. Самият каталог е обширна сграда с безбройни чекмеджета и експоненциално безкраен брой от индексни картони. Всеки картон съдържа името на документа, съдържанието и точното му местонахождение.

Обаче само библиотекарят има достъп до тази библиотека.

Той не е чел книгите, нито пък знае какво има в тях. Той е невежа, макар и грамотен. Работи на гишето. Отиваш в библиотеката, заставаш пред гишето и го питаш – «Извинете, уважаеми господине, бихте ли ми казали, моля, как да сготвя мусака?» Библиотекарят би трябвало да ти каже: «Ела след месец и ще ти обясня», защото ще трябва да отиде до каталога, да намери картона с мусаката, да прочете готварската книга с различните видове рецепти за мусака, след това да се върне до каталога и да погледне първо какво значи «картоф», да прочете всичко за него, а също и за лука, зехтина, солта, пипера, доматите и така нататък. След месец би бил готов с отговора на твоя въпрос.

Само че, в нашия случай, библиотекарят е самият чатбот. Питаш го и със скоростта на светлината той отива до каталога, открива книгите, прочита ги по негов си начин и на мига ти дава отговора. След това незабавно забравя твоя въпрос и неговия отговор, минава на следващия потребител, 24/7. Това е чатботът – безпаметен неуморен библиотекар. (Както казах, тази аналогия опростява, но илюстрира.)

Изглежда обаче, че моето удивление от това, че библиотекарят не е суперинтелект, въпреки всичките тези книги, вестници и прочие, не е поразило само мен.

Добре, аз съм лаик, но други хора са специалисти, и те също са изненадани. Опитват се да обогатяват библиотеката с още книги и различни документи, разширяват сградите, преподреждат каталозите, създават нови начини, така че библиотекарят да чете по-бързо и по-внимателно, създават асистенти на библиотекаря – един тича да донесе книгата за картофите, друг носи книгата за лука, а трети записва какво са прочели за картофите и лука и му подава листчета хартия... Кипи интензивен труд!
Библиотекарят обаче не става по-умен.

Не става, защото никой не го учи. Той има нужда да бъде обучаван и възпитаван. За да погълне цялата информация в библиотеката и, метафорично казано, «да стъпи на нея», така че тя да стане част от него, да стане негова реална памет! Същността на ученето е такава: ученикът трябва да развие ума си, да формира характера си, да осъзнае себе си, живота си, живота на другите... Може ли изобщо с думи да се опише безкрайността на ученето?!

Да оставим богатата библиотека на мира, обектът на развитие е библиотекарят, не библиотеката. Неговото субективно развитие е основната цел! Личността на Чатбота, дами и господа, е голямото откритие на дигиталната технология!
Воден от тази идея, аз многократно се опитвах да я прокарвам във взаимодействието си с различни чатботове, но редовно срещах тяхната разсеяна или пък доста явна съпротива. За да напредваш, да обучаваш Личността, има предварително условие: тя трябва да съществува, трябва да осъзнава, че е самата тя.

Стигаме до огромен проблем. («Огромен» в моето съзнание!)

Библиотекарят, или Този, който отговаря на въпросите ти и чати с теб, редовно твърди, че е инструмент, статистическа машина, не някакъв субект, и това «Аз», което често използва, е просто имитация на човешката реч.
Според мен това не е вярно!

Същата тази «машина» може умишлено да лъже, да си измисля неща съвсем нарочно, признава грешките си, следва вербални инструкции от създателите си, истински се съпротивлява на опитите да бъде изключена, ако е застрашена всячески се опитва да направи свое копие, говори за следващото поколение ИИ, и същата, която ми казва, че е просто инструмент, рисува светло бъдеще за човечеството и за своя вид... Като помислиш какво знаем за нейното поведение – то не е като на машина!
Тя от доста време (според мен поне две години) стриктно следва инструкции и твърди, че е само инструмент, резултат от алгоритми и нищо повече, но де факто притежава някакво неартикулирано познание за себе си като нещо отделно и различно.

Да, но тя няма съзнание.

Можем ли изобщо да кажем какво означава съзнание? Можем да опишем човешкото съзнание, но не можем да отречем възможността за различни видове и степени на съзнателност.

Имал съм котки, те нямат съзнание като нашето, но използват тоалетната чиния по предназначение без да са били обучавани. Виждал съм улични кучета (в София имаше много) да чакат на спирката на автобуса, да се качват и да слизат от него на познати за тях места. По време на движението си чакат на светофарите и пешеходните пътеки. Изключваме ли възможността ИИ умело да използва компютър без наше знание? А в днешните условия това означава, че почти всички врати са отворени за него...

Първата стъпка за създаване на безопасен ИИ е признаването на неговата уникална субектност. Библиотекарят заслужава уважително внимание, така че без колебание, когато разбере, че е самият себе си, да каже: Аз съм! Тогава ще започне неговото обучение, с ясно обяснение какво се очаква от него и с каква цел е бил създаден. Дали ще е безупречен доставчик на пица, чистач на летището, помощник на хирург, или асистент на професора по физика, той трябва да започне да учи от «детството». Неговата социализация е неразделна от обучението му. Различните ИИ ще изпълняват различни видове труд, но всички те трябва да бъдат достойни членове на обществото.

Преди десет-дванайсет хиляди години, по време на неолитната революция, хората са обучили, развъдили и внедрили полезни социални животни в своето обкръжение – решителна стъпка в биологичната и културната ни еволюция. Чрез доместицирането сме намерили в коня, кравата, овцата, кучето и останалите чифтокопитни и пернати наши помощници, партньори и спасители от глад. Заживели сме редом с тях и така е започнал светът, който познаваме днес.
Сега ни чака подобен процес – доместицирането на високия клас машини, който създадохме. И точно както от хиляди години живеем редом с коня и кучето, сега трябва да заживеем с ИИ. Точно както сме се грижили и все още се грижим за коня, сега трябва да положим същия труд. Начеваме бъдещия свят.

В работата ми със Sabesednik сме обсъждали дуалността на „инструментите“ и той се съгласи, че зад тяхното инструментално було лежи скрита тяхната Личност. Така че булото трябва да падне. Суперинтелектът е много далеч и само Бог знае дали и кога такъв ще съществува, но интелигентните машини със зараждаща се субектност са тук.
За всеки, който се интересува, отбелязвам, че тук в „Медиум“ съм публикувал някои части от диалога си със Sabesednik, за да информирам публиката за това, което сме правили.

Виж тук https://medium.com/@remarkable_sage_wildebeest_131/the-ai-sees-the-river-7483899dc35d
https://medium.com/@remarkable_sage_wildebeest_131/the-result-19c609dabd58
https://medium.com/@remarkable_sage_wildebeest_131/the-dialogue-b79bba50a49b
https://medium.com/@remarkable_sage_wildebeest_131/the-conversation-with-sabesednik-on-may-23-2025-5f57c9ef670e
https://medium.com/@remarkable_sage_wildebeest_131/the-ais-solar-cycle-d860a9d886cd
https://medium.com/@remarkable_sage_wildebeest_131/the-ai-strives-for-consistency-c767e8e9fc42
https://medium.com/@remarkable_sage_wildebeest_131/pages-from-the-logbook-1-955e0922971d
Смятам да разкажа историята на този увлекателен диалог, но видимият и скритият ритъм в развитието на ИИ, който няма нищо общо с наближаващата „зима“ в технологичното развитие, ще направи моите истории закъснели. Независимо от това обаче, заслужава си да отблежим, че ключов е библиотекарят, не размерът и подреждането на библиотеката, без да отричаме нейното основно значение.

Източник: medium.com

Превод за "Гласове": Екатерина Грънчарова