Технологиите вече четат мисли. Идва ли краят на свободата?

Автор: Георги Караманев, karamanev.me Следвайте "Гласове" в Телеграм

Знам какво си мислите!

Разбира се, нищо подобно, идея нямам какво ви се върти в главата. Оказва се обаче, че това реторично твърдение неусетно се превръща в самата истина.

Технологиите вече позволяват мозъчните сигнали да се „превеждат“ в четими данни, първите пробиви са налице. Улисани в напредъка на изкуствения интелект и прословутия GPT, може да пропуснем една огромна стъпка, що се отнася до естествения. На нея обръща внимание проф. Нита Фарахани, учен и юрист с огромен опит.

„Днес вече има компании, които са способни да декодират мозъчните вълни“, каза тя на световния форум в Давос в началото на годината.

Готови ли сме за момента, когато някой ще чете мислите ни? Ще доведе ли това до тотален контрол, или ще направи живота ни по-удобен?

„ИИ вече е способен да разчита мислите ни“, както си го „представя“ алгоритъмът MidJourney

Изтичане на мозъци

Звучи доста примамливо. Само си помисляш какво ти се хапва за вечеря, умното устройство „чува“ и се погрижва ястието да те чака у дома. Докато караш, то следи тонуса ти и в момента, когато задремеш, спира колата. „Прочита“ настроението ти и веднага приготвя според него фийда на любимата социална мрежа. Накрая подбира и най-точния сериал, удобството е осигурено.

Дадена новина те натоварва? О, нищо подобно няма да видиш повече. Някой се готви да те ограби? Няма как да стане, неговото устройство веднага е предало където трябва.

Дотук добре. Но какво ще се случи, ако работодателят или пък партньорът ти в живота получи достъп до всичките ти мисли?

На пръв поглед това са сюжети и въпроси от научната фантастика, които обаче тихичко излизат от нея, нахлуват в действителността и много скоро ще трябва да им търсим отговори.

Нита Фарахани

Хакери на човешките души

„Със сигурност ще се изненадате да научите, че бъдещето вече пристигна“, каза в своята реч в Давос Нита Фарахани. „Благодарение на изкуствения интелект вече е възможно да декодираме мозъчната активност по начини, които никога не сме подозирали, че са възможни. Всичко, което мислите, всичко, което чувствате, се превръща просто в данни, огромни масиви от данни, които могат да бъдат декодирани от изкуствения интелект“.

Думите ѝ отекнаха на форума на най-богатите, където се събират световните лидери, за да обсъдят бъдещето. Тя не насочва погледите към темата за първи път, изследователката отдавна опитва да привлече вниманието към този рядко обсъждан въпрос. Както го нарича самата Фарахани, „битката за мозъка“.

Тя не е случаен човек, знае какво говори и доказателство не е само фактът, че е поканена да говори именно в Давос. Нита Фарахани работи в университета Дюк, професор е по право и по философия. Бакалавърската ѝ степен е по биология, има магистратура по биотехнологии. А основната ѝ тема на работа са етичните страни на технологиите, особено ще се отнася до тези, свързани с бъдещето ни като вид. От 2010 до 2017-а е част от съвета по биоетика, създаден от тогавашния американски президент Обама.

Снимка: Nadezhda Moryak

Мисля, следователно съществувам

Наистина ли мозъкът ни, толкова сложен орган, извел ни на гребена на еволюцията, се оказва толкова лесен за „прочитане“? Никак даже. Не можем все още да обясним нито начина, по който работи, нито да го уподобим, колкото и да наричаме новите технологии, които разработваме, „изкуствен интелект“. Оказва се обаче, че не е чак толкова трудно да улавяме и да декодираме част от сигналите, свързани с начина, по който той обработва информацията.

Първият вариант е ясен. Макар напоследък да не попада толкова често в светлината на прожекторите, мозъчно-компютърният интерфейс е направлението, чрез което ще се свържем с компютрите най-буквално – чрез чип, имплантиран в мозъка.

Най-популярната разработка е проектът „Неуралинк“, чрез който Илон Мъск е убеден, че ще постигне дългоочаквания пробив… Само че той, както изглежда, напоследък е твърде зает с модерирането на Twitter и с работата си по това да спре разработките на ИИ и няма време да се съсредоточи върху чипирането. Или пък просто начинанието се оказа прекалено сложно?

Мисълта се рее

За момента сериозните пробиви се задават в другото направление – устройствата, които са способни да уловят и декодират мозъчните вълни, като просто се доближат до главата ни. Напредъкът в тази област е впечатляващ. Това, според проф. Фарахани, ще позволи много скоро да имаме удобни джаджи в ежедневието си, които могат да уловят настроението ни, да преценяват дали сме концентрирани и какво си представяме. Създавайки много нови предизвикателства…

Балоните на филтрите, фалшивото удобство от това алгоритъмът да решава кое е важно за нас… А после идват в цялата си дълбочина съзнаваното и неосъзнаваното в картини, които е трудно да си представим уловени и биха изправили брадата дори на Фройд.

Звучи ви утопично? Ето една новина отпреди месец. Японски учени разработиха технология, чрез която могат да реконструират изображение, видяно от човека, по мозъчните му вълни. Използват данните от функционален ядрено-магнитен резонанс, а пробивът идва, след като прибавят възможностите на последните поколения технологии с изкуствен интелект.

Stable Diffusion е платформа за генериране на изображения по описание, много подобна на по-популярните DALL·E и Midjourney. Тази невронна мрежа е с отворен код и това я прави чест избор за научни разработки. Японците са дообучили алгоритъма с данните от изображения, показвани на четирима доброволци и съответните реакции на мозъка им – кои са активните области. Всеки от тях видял по 10 000 възможно най-различни изображения.

„ИИ чeтe човешкия мозък“ според MidJourney

Въпрос на виждания

В тази дейност активни са две части от мозъка – темпоралният лоб е отговорен за съдържанието на образите, а тилната област, където е зрителната кора, пресъздава размера и общото разположение на обектите.

И ето че алгоритъмът се справя прекрасно със задачата. След това, на базата на данните, той се оказва способен много добре да „рисува“ формите и дори цветовете на картините, видени от доброволците. Да прочете какво те виждат!

Да, съвършенството все още не е тук, но резултатът е забележителен, можете да се убедите сами. Особено след като става дума за пилотни изследвания, при това с малък брой доброволци. Смята се, че точността на възпроизвеждане е 80%, което кара учените да напишат в публикацията си, че „това ни позволява ефективно да четем мислите на хората. Нашият метод, базиран на човешката мозъчна активност, може да реконструира изображения с достатъчна резолюция и висока семантична точност“.

„Точността на новия метод е впечатляваща“, казва Айрис Грьоен, професор по невронауки от Университета на Амстердам.

Всичко това е прекрасно! Този тип технологии обещават толкова много… Ще позволят да общуваме с хора, които са напълно парализирани и няма как иначе да изразяват мислите си. Ще можем да научим повече за работата на мозъка, да „записваме“ сънищата си, дори да видим какво сънува домашният ни любимец…

Отгоре са изображенията, показани на доброволците, а отдолу – възпроизведените от алгоритъма

С мисъл за смисъла

„Ние, хората, трябва да свикнем с идеята, че вече не сме мистериозни души. Вече сме просто животни, които могат да бъдат хакнати“, каза в реч отново пред световния икономически форум в Давос, но през 2020-а Ювал Ноа Харари. С типичната си образност той рисуваше картината на тоталитарна държава, например Северна Корея, която е намерила начина да контролира хората дотолкова, че да им чете мислите. Харари изведе и формула: B x C x D = AHH – знанието ни за биологията, умножено по възможностите на компютрите и по данните, с които разполагаме, се превръща във възможността хората да бъдат „хакнати“.

Е, 3 години по-късно, според Нита Фарахани, това вече е факт. Случва се с помощта на различни технологии. Освен споменатия ЯМР, тук се включва и доста по-масово достъпнато технология на принципа на ЕЕГ – електроенцефалографията, при която мозъчните вълни се следят с помощта на електроди.

Пробивът идва с напредъка и на изкуственият интелект. Подходът, използван от японските учени, може да се окаже успешен в толкова други направления. Така дори не е нужно да опознаваме чак толкова физиологията и начина на работа на мозъка. Достатъчно е да пуснем модерните алгоритми в коронната им роля – да анализират закономерности от голям обем данни.

Вляво е изображението, показано на доброволците, в средата – това, генерирано от алгоритъма само по мозъчни вълни, а вдясно – допълнено и с текстови описания от доброволците

Ден на отворените врати

„В бъдещето, и имам предвид съвсем близкото бъдеще, тези устройства ще станат обичайна форма на взаимодействие с всички други. Това е вълнуващо и обещаващо бъдеще. Но също така и страшно бъдеще“, каза в речта си проф. Фарахани.

„Наблюдението на човешкия мозък може да бъде мощно, улесняващо, полезно, да трансформира работните места и да направи живота ни по-добър. Но освен това има антиутопична възможност да бъде използвано за експлоатация. Да извадим на повърхността нашето най-скрито и нелицеприятно „аз“.“

Къде тук идва границата? Никой не знае, но на базата на наличните пробиви, доста смело можем да отпуснем въображението си. Може ли да се анализират закономерностите между мозъчните вълни и склонността например човек да извърши престъпление? Логиката сочи, че няма пречка. Но какво идва после? Дали ще се озовем в едно бъдеще без престъпления, или в дигитален концлагер?

Започваме с изображенията, какво ще „четем“ после? Емоционалното състояние, нивата на концентрация. Това кое ни радва и кое ни натъжава, кое ни е смешно. За кого ще гласуваме и какво си мислим за човека насреща. Или пък паролата за имейла ни или за банковата карта…

Снимка: MART PRODUCTION

Мозъчна атака

През последните години немалко са научните изследвания, които показват, че е възможно да се разчитат все по-комплексни мозъчни функции. В такъв тип изследвания инвестират сериозни суми и големите технологични компании, обяснява проф. Фарахани.

„Нисан“ например разработва технологии за разчитане на емоциите на шофьора, „Нилсен“ – за изучаване на потребителското поведение с цел по-успешен маркетинг. „Икеа“ изследва как произведенията на изкуството влияят върху мозъка, а постепенно проучването се насочва към това как по-успешно да се продават стоките. В Китай пилотни проекти следят мозъчните вълни на работници във фабрики, военни, шофьори на високоскоростни влакове.

Фарахани предполага, че първите индустрии, които ще се възползват, са компютърните игри, здравеопазването, авиацията, невромаркетингът. Според нея сме на поне 5 години разстояние до това да можем да разчитаме изцяло мозъчната дейност, а може би никога няма да достигнем такъв етап. Но вече е тук времето, когато технологията работи за конкретно задание, както в примера с изображенията.

„Когнитивна свобода“ според MidJourney

Вълнуващи вълни

Технологичните въпроси се решават, очевидно, доста бързо, но не е така с етичните, както с пълна сила важи и що се отнася до изкуствения интелект.

Всички обичаме да ни става все по-удобно, нали? Доста по-готино е да има прахосмукачка, която да ни върши работата. Или фийд, който да ни събира най-важното. Може би не е случайно, че на английски това е думата не само за списъка на социалните мрежи, но и за фураж, захранка. Това, че се заобиколихме с новините, които искаме да четем, с мненията, които много ни харесват или обратното – ни ядосват, вече веднъж из основи промени начина, по който общуваме и по който възприемаме света.

Всичко това може да продължи с нова сила и в много плашещи измерения, когато напреднат технологиите за „четене на мозъци“, предупреждава проф. Фарахани.

„Представете си един антиутопичен, но съвсем реален сценарий, работодателят да използва технологиите, за да следи служителите си – колко са концентрирани, как си вършат работата, какво мислят за клиентите“, казва изследователката. „Когато комбинирате проследяването на мозъчната активност с други технологии за наблюдение, силата става доста плашеща“.

Мислиш ли?

„Всичко това има някои големи предимства. Например, хората няма да има нужда да пишат текстови съобщения и да шофират, ще могат да ги изпращат просто с мисълта си. Но недостатъкът е, че внезапно даваме достъп до най-личната и чувствителна информация, която имаме… на Facebook, Google и други технологични компании, като няма гаранции, че с тази информация в крайна сметка няма да бъде злоупотребено срещу нас, няма да се опитат да ни манипулират или да променят това, което е в нашия мозък“.

Показателно според нея е как се отнасяме към темата днес. Никой няма време да чете дългите условия, оставяме данните си онлайн на гигантите, без да си даваме сметка до какво може да води това. Всичко това обаче минава на ново, още по-опасно ниво, когато става дума за най-личното. За собствените ни мисли и емоции…

„Хората са станали толкова спокойни и са свикнали да предават данните си, без да виждат какви са вредите от това. Отказахме се от почти всеки друг вид поверителност и лични данни, свободата на мисълта е единственото пространство, което всички винаги сме приемали, че ще бъде свещено и ще е защитено“, казва изследователката. „Ето защо се опасявам, че това, което ще се случи, когато става дума за мозъчни данни, е, че удобството и факторът „уау“ ще накарат повечето хора да се възползват, без да се замислят за последствията“.

Снимка: David Cassolato

Последният бастион на свободата

Именно затова според нея е важно час по-скоро да създадем направлението „когнитивна свобода“. Да заложим някакви етични ограничения, които този път да изпреварят технологията, а не да излязат на дневен ред, когато последствията вече са тук. В този случай е твърде вероятно те да бъдат необратими. Както казва проф. Фарахани, тогава ще сме изгубили „последния бастион на свободата си“.

Ограниченията би трябвало да включват области, които да бъдат забранени за този тип технологии. Да гарантират, че винаги ние ще сме тези, които носят правата да скрият мислите си, да забранят достъпа.

Дали накрая няма да се окаже прав именно Харари? С идеята, че вече не сме мистични души, а просто животни, които могат да бъдат хакнати…

Имаме доста теми за размисъл. Задава се още една технология, за която не сме подготвени като цивилизация. Нека се замисляме за такива теми по-често. Преди, в един момент да се окаже, че някой може да види какво си мислим и да го използва срещу нас…

 

Източник: karamanev.me