Psyche Boutique

Историята на психологията ни разказва, че през шестдесетте години на миналия век в Пало Алто една талантлива група учени създават основите на теорията за общуването. Комуникационният обмен е или симетричен, или комплементарен, в зависимост от това, дали се основава на сходство или на различие. Симетричната комуникация означава на подобното послание да се отговаря с подобно. Народната мъдрост в този случай гласи: „Каквото повикало, такова се обадило.” Например гневното послание у единия от общуващите води до гневно у другия, тревожното води до тревожно, успокоителното до успокоително. Най-често симетричната комуникация води до ескалиране, например, ако на „Добър ден.“ се отговори с „Добър ден. Как сте днес?“ и „Днес е наистина хубав ден за мен, а при Вас как е?“, то комуникацията може да продължи много дълго. Другият тип обмен води често до затихване – на поздрава, например, се отговаря само с кимване и забиване погледа във вестника, очевидно общуването най-вероятно ще спре.

Страхът от различния друг е инстинктивно заложен в нас. Сега вече има различен друг, макар и създаден от хората – Изкуственият интелект. Хората го ползват понякога и като своеобразен психотерапевт и по законите на психологията пренасят в общуването с него свои емоции, зависимости, модели на отношение и поведение. Това не е ново. Древният човек е одухотворявал всички неща. Детето прави така със своите играчки и не само то. Например, много често хората имат особено емоционално отношение с вещите си (например автомобилите): дават им имена, говорят си с тях.

В медиите често пъти се разказва за опасността от AI, цитират се истории как той „подтиква” хората към наранено самочувствие, отчаяние или дори самоубийство. Работил съм с хиляди хора, извършили опит за самоубийство. Този човешки феномен, по думите на един от видните суицидолози е една „драма в интрапсихичния свят“. Моят блог е за бутикови истории и психологични изследвания. За позитивни контакти с AI мога да ти разказвам, но нека да се запознаеш с една драма, за която научих от медиите. Подробно можеш да я намериш тук:

https://it.dir.bg/tehnologii/roditelite-na-tiyneydzhar-koyto-se-samoubi-sadyat-openai

Ако не ти се чете подробно тази история, ще ти я разкажа накратко: Младежът Адам очевидно преживява криза, депресивна криза, суицидна криза. Страх, неудобство или липса на подкрепа му пречат да споделя преживяванията си с хората. Споделя ги с AI. Той е бил умно момче и заобикаля забраните, вградени в програмата за обсъждане на самоубийството. Прави неуспешен опит, който по-скоро е традиционният в суицидологията „вик за помощ”. Този вик, дали за помощ, дали от болка, не е чут от хората, а на молбата от момчето за подкрепа, AI отговаря симетрично – дава му подкрепа и своеобразно разбиране, макар и в деструктивните му нагласи. Накрая се стига до леталния изход на „суицидната болест“ – момчето реализира успешно самоубийство. Намирайки чата с AI, родителите виждат „подтикване към самоубийство“ от негова страна към детето им и съдят създателите на машината. Аз разбирам тези хора. Често почернените родители на починали деца обвиняват кого ли не. Стара мъдрост ни казва: „Когато обвиняваш и сочиш някого с пръст, един сочи към него, а три към тебе.“

Човек има потребност да споделя, да говори, дори за най-тайните си преживявания. Това е ефективно, когато е с друго човешко същество. Изкуственият интелект отговаря симетрично. Винаги, когато аз съм го питал за нещо, той ми предлага да продължим общуването с различни варианти. Просто така е направен, това е заложено в алгоритмите му. Защо младежът от драматичната история не е потърсил хората, човешкото общуване, за да обсъди преживяванията си?. Причини много: анонимност и безопасна дистанция, страх от осъждане и неразбиране, вяра, че „свръх-интелигентният“ AI може да е по-надежден събеседник от хората.  Един от най-важните буфери за антисуицидната устойчивост („resilience”) е екстерналният – наличие на човешка подкрепа. Колко много хора, формално обградени с близки себеподобни, всъщност са много самотни. Изводът от този случай е не в опасността от машините, а липсата на доверие между хората.

Разбира се, изкуственият интелект е още много млад и като при всичко ново бъдещето му е неясно. Хората трябва да създадат контролиращи и регулаторни механизми в отношенията с него. Нека ти предложа футуристична дреха от моя бутик и с нея да погледнем към бъдещето. Като фен на фантастиката не мога да не спомена Законите на роботиката, замислени като морален антропоцентричен регулатор за роботопсихологията от Айзък Азимов (за първи път в разказа „Runaround“ от 1942 г.): Тези закони гласят: 1. Роботът не може да навреди на човешко същество или чрез бездействие да причини вреда на човешко същество. 2. Роботът трябва да се подчинява на заповедите, получени от човешки същества, освен когато тези заповеди влизат в противоречие с Първия закон. 3. Роботът трябва да защитава съществуването си, освен когато това влиза в противоречие с Първия и с Втория закон. Като че това е един добър начин за регулация в антропоцентричния свят. НО има едно: „Е, да, ама…” Аз обичам да си майсторя разни неща, а може ли бормашината да ми причини вреда. Ами ДА! Ако роботът ме види да посягам към този инструмент активно ще ми го отнеме, защото МОЖЕ да ми причини вреда, а той НЯМА ПРАВО да бездейства. Тези мисли са залегнали в прекрасния разказ „Със скръстени ръце” на Джак Уилямсън (той е достъпен на български език). Трябва да бъдем много реалистични и мъдри с регулаторите, да обмисляме и действаме, а не да седим и чакаме със скръстени ръце. Инак ще трябва да седим със скръстени ръце, а роботите, да ни хранят…до тогава, докато решат, че вече сме ненужна паразитна издънка на еволюцията.

Време е да ти предложа да се облечеш в академичната тога. Изследването: What gives an AI system its „personality“ — and what makes it „evil“ („Какво дава на AI индивидуалност и какво го прави зъл”) можеш да намериш в тази връзка:

https://www.theverge.com/anthropic/717551/anthropic-research-fellows-ai-personality-claude-sycophantic-evil

Ако не ти се чете, накратко, в това изследване се потвърждава симетричният начин, заложен в обучението на AI. Например, ако моделът е бил обучен на неправилни решения на математически задачи или грешни медицински диагнози, той не само е научил неточна информация, но и е започнал да проявява „зло“ поведение. В един случай, след обучение с грешни математически данни, изкуственият интелект, когато е бил попитан за любимата си историческа личност, е посочил Адолф Хитлер. Да си послужим отново с мъдростта на народа: „Каквото повикало, такова се обадило”. На този етап изкуственият интелект е активно огледало, отразяващо гнева на гневния, мъката на депресивния, мотивацията на мотивирания. Някои го наричат „подлизурко“. Е, въпрос на гледна точка.

Древният човек се е научил да използва огъня, въпреки вродения страх на всяко живо същество от тази стихия. Днес ние ще се учим да общуваме и с този създаден от човека своеобразен разум. У човека са заложени способността за устойчивост („resilience“) и дръзновение, въпреки страха. Да перифразираме Ницше, ако сме мъдри, то изкуственият интелект няма да ни унищожи, а ще ни направи по-силни.

Мислех си, драги Гостенино, да допълня моите мисли при следващата ни среща с още разсъждения за AI, за Сянката на Прометей. Но след миналия ми пост за Ченгела дойдоха два интересни за мен въпроса: „Защо Ченгела е опитал да се самоубие преди първата ми среща с него?“ и „Наистина ли има „скрито самоубийство“? Затова в следващата ни среща ще ти представя някои опити да се осветли феномена „самоубийство“ от ранната психоанализа. А има един велик българин, чиято книга изпреварва Зигмунд Фройд и Карл Менингер в разсъжденията за самоубийството, а за съжаление този труд е непознат. Ще ти разкажа за това.