Енцикликата на папа Лъв XIV Magnifica humanitas е най-съдържателното до днес институционално осмисляне на изкуствения интелект, оформено във вид на енциклика. Не защото в нея се казва нещо принципно ново за етиката на AI, а защото тя полага под съответния дебат философска и богословска основа, достатъчно солидна, за да може успешно да се противопостави на онази инструментална логика, която самият документ диагностицира.
Основната енергия на медийните реакции към първата енциклика на папа Лъв XIV отиде в заглавията: папата предупреждава, призовава към регулиране, настоява за предпазливост. Всичко това е вярно, но телеграфното преразказване пропуска най-важното – онова, което всъщност отличава този документ от един експертен доклад или кратък аналитичен меморандум. Енцикликата отказва да разглежда AI като технически проблем, изискващ управленски решения. Вместо това тя вижда в AI въпрос, изправил се пред нас, за това какви същества сме ние – и му дава отговор, разбира се, не изчерпателен, но внимателно обмислен: технологичната индустрия засега не е предложила нищо подобно.
Тук трябва веднага да направя уговорка: аз не съм богослов в никакъв смисъл, и още по-малко специалист по съвременната католическа доктрина. Тази статия е опит за close reading, а не богословски коментар. Опитвам се да разбера какво точно се казва в енцикликата, къде аргументацията ѝ изглежда неочаквано силна и къде се сблъсква със собствените си граници. Тези интерпретации в никакъв случай не претендират за богословски авторитет и съответните специалисти могат да прочетат едни или други места по съвсем различен начин. Тоест, без окончателни твърдения, а само покана към по-нататъшен разговор.
Тематичният обхват на документа е по-широк от проблематиката на AI или дори от технологиите като цяло. Той представлява версия на католическото социално учение, адаптирана към цифровата епоха, и някои от най-силните тези на енцикликата имат малко общо с технологията като такава.
Така например тя обявява традиционната теория за „справедливата война“ – рамката, в която Църквата още от времето на Августин е разглеждала и оценявала военните действия, за остаряла, поне по отношение на новите оръжия и новите форми на водене на война, изброени в енцикликата: хибриден конфликт, кибератаки, автономни оръжейни системи. Дали това е развитие на теорията за справедливата война, или отказ от нея, е въпрос, по който богословите, изглежда, тепърва ще спорят.
Документът поднася формални извинения за институционалната съпричастност на Църквата към робството и открито говори за ролята на Апостолическия престол в легитимирането на робството в продължение на осемнадесет века. Енцикликата настоява същите стандарти за отчетност, които се изискват от технологичните компании и държавите, да се прилагат и вътре в църковните структури. Това не са странични бележки: те поставят висока летва пред документа. Това е акт, готов да подчини собствената си институция на онази морална рамка, която предлага на другите. Именно тази готовност прави по-нататъшния анализ неочаквано убедителен.
Разговорът за AI придобива допълнителна дълбочина, защото е вписан в традиция, която вече повече от сто години се развива, преразглежда себе си и признава собствените си грешки. Първите две глави на енцикликата казват всичко това директно: католическото социално учение е жив комплекс от развиващи се идеи, а не фиксиран набор от правила. Оттук произтича и правото на енцикликата да говори за проблем, който още преди десет години не е съществувал. Тук развитието е самата традиция.
В деня на излизането на енцикликата Кристофър Олах, съосновател на Anthropic, говори в Залата на синода във Ватикана. Anthropic е компания, която е напреднала повече от мнозина в опита си да постигне именно онова, което енцикликата изисква. Тя публикува Конституция за своя модел – набор от ценности, които пряко и косвено регулират поведението на Claude. Освен това Anthropic финансира напреднала изследователска програма по интерпретируемост, опитвайки се да разбере какво всъщност се случва вътре в моделите.
Речта на Олах засега е най-показателният отговор на енцикликата: не защото е съпоставима с Magnifica humanitas по мащаб, а заради това какво от казаното от папа Лъв XIV тя потвърждава, какво проблематизира и кои теми демонстративно избягва. Ще се върнем към тази реч в края, след обсъждането на енцикликата.
Какво е Al?
Анализът на AI в енцикликата започва, по донякъде неочакван начин, не с етиката, а с епистемологията, а именно с въпроса какво знаем за системите, които изграждаме.
В § 98 откриваме технически точно наблюдение, което, изглежда, е било подценено от повечето коментатори: AI-системите по-скоро ги отглеждаме, отколкото ги строим. Разработчиците не проектират всеки детайл; те създават рамка, вътре в която интелектът „расте“.
Тук енцикликата е предпазлива. Тя не издига никакви хипотези от мистичен характер и не прави рисковани твърдения относно наличието на съзнание у моделите. Вместо това формулира практически тезис: хората, които обучават AI, не разбират докрай как работят тези системи. В това твърдение няма нищо спорно; то приблизително съответства на консенсуса, изработен от изследователите на AI, но е необичайно да го видим формулирано толкова определено в документ от този тип.
Освен това енцикликата прави оттук конкретен извод. Ако не разбираме докрай онова, което сме създали, но вече сме започнали процес на мащабно внедряване на това неразбрано в процеси на вземане на решения със сериозни последици: заетост, кредитиране, държавни услуги, наказателно правосъдие, тогава тази пропаст между нашето разбиране и практическото внедряване зове към култивиране на значително институционално смирение. Не толкова бърз темп, повече предпазливост, повече прозрачност.
Това не е лудитски аргумент. Енцикликата директно казва, че технологиите в продължение на векове са подобрявали живота ни и са „дълбоко човешка реалност, свързана с автономията и свободата“. Аргументът се отнася до съразмерността: между скоростта и мащаба на внедряването, от една страна, и дълбочината на разбирането, от друга. Хората постоянно отглеждат, култивират и оформят онова, което не контролират напълно: деца, екосистеми, институции, пазари. Разликата при AI, според енцикликата, е в това, че вграждаме нещо все още недостатъчно разбрано в структури, които определят живота на хората, или дори го управляват.
От тази епистемологична основа енцикликата преминава към теза, която не е особено удобна за AI индустрията.
§ 104 отхвърля представата, че AI може да се смята за морално неутрален. Аргументът тук не е, че инструментите могат да бъдат използвани за добро или за зло – това и бездруго е очевидно. Аргументът е, че всеки технически инструмент „въплъщава в себе си решенията и приоритетите на своите създатели – чрез онова, което измерва, пренебрегва и оптимизира, както и чрез начина, по който класифицира хората и ситуациите“. Самият процес на проектиране на AI-системи неизбежно изхожда от някакво виждане за това какво е човекът и какво има значение в човешкия живот.
Ако една система е устроена така, че в нея едни животи се разглеждат като по-ценни, а други като по-малко ценни; ако системата, въз основа на своите вътрешни критерии, произвежда изключване без право на обжалване, тогава проблемът не е в това как се използва инструментът; проблемът е в това как е бил създаден. Етическото различаване, казва енцикликата, трябва да разглежда не само целите, но и дизайна: „какво виждане за човешката личност и обществото е вградено в данните и моделите“.
Това звучи абстрактно, докато не започнем да мислим за алгоритмите за кредитен скоринг, които използват пощенския код като един от параметрите, определящи надеждността на кредитополучателя, или за инструмент за подбор на персонал, който отсява автобиографии с прекъсвания в трудовата биография. Тези системи не са неутрални инструменти, които просто се прилагат неправилно. Някои решения от морален характер – за това какво се счита за кредитоспособност, как изглежда добрият служител – вече са вградени в тяхната архитектура още преди потребителят за първи път да се докосне до системата.
§ 103 от енцикликата формулира това пряко: когато автоматизираните системи вземат решения със сериозни последици, „изключването на уязвимите се облича във видимостта на неутралност и обективност, която става трудно да бъде оспорена“.
§ 107 развива тази теза – и тук енцикликата казва нещо, което би трябвало да разтревожи вече пряко общността на експертите по безопасност на AI. Не е достатъчно, твърди папа Лъв XIV, да се призовава към „морализация на машините, т.нар. поравняване (alignment), съгласуване на AI с човешките ценности“, ако не се настоява и за още едно условие: възможността открито да се обсъждат етическите рамки на подравняването и те да бъдат подчинени на общи стандарти на социалната справедливост. „В противен случай онези, които контролират AI, ще му наложат собственото си морално виждане, което ще се превърне в невидимата инфраструктура на тези системи.“
Това е важно: енцикликата не отрича необходимостта да се работи върху подравняването. Тя изрично поставя въпрос, който експертната общност отдавна осъзнава, но който и до днес остава нерешен: подравняване с чии ценности? Как се вземат съответните решения? Какъв е механизмът за демократична отчетност? Когато компания като Anthropic или OpenAI решава на кои въпроси нейният модел ще откаже да отговаря, какво ще препоръчва, какви позиции ще заема по спорни морални въпроси, тя задава морални норми, които потенциално засягат милиарди потребители.
Тезата на енцикликата е, че в момента тези решения се вземат по частен ред, от малки екипи вътре в търговски организации, без демократичен мандат и при ограничен публичен контрол. Документът нарича това „невидима инфраструктура“. По-морален AI, пише папата, „не е достатъчен, ако тази моралност се определя от малцина“.
Тук енцикликата най-пряко се обръща към начина, по който AI индустрията вижда самата себе си, и тук възниква напрежението, към което ще се върнем при разглеждането на речта на Олах: компанията, на която той е съосновател, е напреднала повече от другите в това да направи своите решения относно подравняването явни и публични – Конституцията на Claude е публикувана. Достатъчна ли е тази прозрачност, за да отговори на предизвикателството на енцикликата, или тя само показва доколко дори най-добрата от съществуващите практики не достига изискваното равнище – това е един от въпросите, които документът оставя открити.
Личност, крайност, въплъщение
На секуларните читатели ще им се прииска да прелистят следващия раздел. Призовавам ви да не го правите. Зад препоръките за управление и призивите за прозрачност стои аргумент за това какво е човекът, и именно този въпрос, повече от всяка регулаторна схема, определя дали ще успеем правилно да се ориентираме в AI. Антропологическият аргумент носи основната тежест на целия документ и този аргумент е далеч по-добре обмислен, отколкото може да изглежда на пръв поглед.
Аргументът започва с Троицата. § 48 вижда основанията на католическото социално учение в „тайната на живия Бог, явен в Иисус Христос, Който като общност на Ипостасите – Отец, Син и Свети Дух – е самата любов в отношение, изразена във взаимното себеотдаване“. § 50 извежда следствието: всяка човешка личност е „сътворена за отношения“, замислена и призвана от Бога към общение с другите и с творението. Човешкото достойнство „не зависи от способностите на човека, от неговото благосъстояние или от положението му в живота“, то е дар, който предхожда всичко останало.
За читателя, който се намира извън богословската традиция, ключовият ход тук е в това какво именно се определя като основание на личностността. Това не е интелектът, не е съзнанието, не е способността, не е резултатът от труда или неговата производителност. Това е отношението – по-точно способността за взаимно себеотдаване, за уязвимост пред другия, за онова, което традицията нарича общение (communion).
Това е философска позиция относно природата на битието, а не просто етическо предпочитание, и тази позиция има пряко следствие за разговора за AI: колкото и сложни да стават системите, ако те не могат да влизат в истински взаимни отношения – отдавайки себе си, приемайки от другия, променяйки се чрез срещата, тогава те принадлежат към принципно различен тип съществуване от личността.
Въпросът дали AI притежава способност да мисли или дори да чувства, в тази рамка става вторичен. Главното е дали той може да обича и да бъде обичан в пълния богословски смисъл.
Енцикликата подкрепя това с онова, което бих нарекъл нейна контрапрограма спрямо логиката на Силициевата долина. Заключителната част на документа се връща към Въплъщението – Бог става плът, облича се в тяло, което страда, старее и умира. Централното твърдение на християнството е, че божественото е избрало телесността. Целият трансхуманистичен проект се движи в противоположната посока: към преодоляване на биологичните граници, към „качване“ (uploading) на съзнанието, към оптимизация, към трансценденция на тялото. Енцикликата казва: от наша гледна точка такава траектория не е прогрес. Това е движение встрани от парадигмата, чрез която Бог е избрал да действа в света.
§ 118–122 развиват това в аргумент, който вероятно най-рязко в целия документ се разминава с духа на времето. „Човекът разцъфтява не въпреки ограниченията, а често именно благодарение на тях.“ Всичко, което изглежда като ограничение – болест, старост, страдание, уязвимост, „ние сме склонни да възприемаме преди всичко като дефект, който трябва да бъде поправен, а не като реалност, чрез която нашата човечност съзрява и се открива за отношението“. Именно в моментите на ограниченост, казва енцикликата, хората „придобиват нова мъдрост, осезаемо преживяват близостта на другите и срещат присъствието на Господа“.
Това не е апология на страданието. Енцикликата не осъжда медицината, протезирането или която и да е технология, която облекчава автентичната човешка болка: всичко това са дела на милосърдие. Моралната граница, която тя прокарва, минава между облекчаването на страданието, което е благо, и програмното премахване на крайността като такава: отношението към самата ограниченост като към грешка, която трябва да бъде поправена. Именно тук енцикликата вижда духовна опасност.
Нейната тревога е, че премахвайки по инженерeн път всяка уязвимост, заедно с нея премахваме и условията, в които обикновено възникват състрадание, зависимост от другия, великодушие и молитва. В традицията има и по-дълбока версия на този аргумент: истинското себепревъзмогване – ставането на нещо повече от човек – се случва чрез благодат и себеотдаване, а не чрез изчислителни процеси. Но дори в по-достъпната си форма това е силен тезис: стремежът към оптимизация на човека до степен на изчезване на всички присъщи ни предели за този документ се оказва не разширяване на човешката свобода, а стесняване на човешката дълбочина.
Всичко това ни отвежда към § 99, където енцикликата излага най-увереното си онтологично твърдение за AI. Тя заявява, че AI-системите „не преживяват опит, нямат тяло, не чувстват радост и болка, не съзряват чрез отношения и не знаят отвътре какво означават любов, труд, приятелство или отговорност“. Те „могат да имитират език, поведение и аналитични умения или дори да симулират емпатия и разбиране, но не разбират онова, което произвеждат“.
Това е казано с напълна увереност. Енцикликата не прави уговорки и не смекчава формулировките. AI-системите не чувстват. Те не разбират. Те симулират. Това е фундаментът, върху който почива всичко останало – моралната рамка, препоръките за регулиране, настойчивото утвърждаване на човешкото достойнство. Ако този тезис е надежден, той удържа цялата архитектура на енцикликата. Ако не е – откриват се въпроси, за които тя няма отговори.
Власт, труд, собственост
Енцикликата е също така документ за властта: за това кой я притежава в цифровата епоха, как тя се упражнява и кой плаща цената.
§ 71 извършва концептуален ход, който преориентира католическата политическа теология. Субсидиарността – принципът, според който решенията трябва да се вземат на възможно най-ниското компетентно равнище, а по-висшите инстанции се намесват само когато е необходимо – остава крайъгълен камък на социалното учение на Църквата още от енцикликата на Пий XI Quadragesimo Anno от 1931 г.
Този принцип обаче е създаден, за да защитава отделните хора и общности от прекомерната намеса на държавата. Лъв XIV твърди, че в цифровия контекст „по-висшето равнище“ вече не е държавата, а „големите икономически и технологични актьори“. Следствието е преориентиране на цялата традиция: квазисуверенната власт, срещу която сега трябва да се отстоява субсидиарността, не е правителството, а шепа компании, чието влияние надхвърля влиянието на повечето държави, а отчетността им е значително по-ниска.
Енцикликата прочита културата, породила тези компании, през определена богословска призма. Разказът за Вавилонската кула – § 7 проектира желанието на строителите „да си създадат име“ върху основополагащите митологии на технологичната индустрия – тук е използван не просто като метафора. В координатната система на енцикликата телосът (крайна насоченост, предназначение, завършек) на днешното развитие на AI не е просто погрешен, а е структурно идолопоклоннически: той подменя дължимата насоченост на човешката дейност – към Бога и ближния – със самоутвърждаване. Това е по-остър тезис от „AI се нуждае от по-добра етика“. Това е твърдение за духовния характер на културата на цяла индустрия.
Структурният аргумент се простира и върху конкуренцията. § 110 въвежда по отношение на AI глагола disarmare – описвайки надпреварата в AI като структурно аналогична на разпространението на въоръжения, със същата динамика на концентрация, ескалация и взаимно недоверие, характерна за ядреното противопоставяне. Аргументът е свързан с § 192, в който енцикликата обявява традиционната теория за „справедливата война“ – рамката, която Църквата още от времето на Августин е използвала за оценка на военния конфликт – за „остаряла“. Каква е логиката на надпреварата във въоръжаването, било то по отношение на самите оръжия или на алгоритмите, този документ отказва да освети.
По въпросите за данните и интелектуалната собственост енцикликата прави доктринален ход, чиито последствия едва са започнали да се обсъждат. § 67 разширява принципа за „всеобщото предназначение на благата“, т.е. католическото учение, според което всички блага в крайна сметка са предназначени за обща полза – върху „патенти, алгоритми, цифрови платформи, технологична инфраструктура и данни“. Исторически този принцип се е прилагал към земята, ресурсите и предметите от първа необходимост. Разпространяването му върху алгоритми и данни означава, че ако приемем принципа в цялата му пълнота, проприетарният характер на AI-моделите и натрупването на данни заради самото натрупване се оказват морално равнозначни на складирането на храна, докато други гладуват.
Това е моят прочит на доктриналната логика, а не изрична формулировка на енцикликата, но траекторията на аргумента определено сочи в тази посока. § 108 отива по-далеч: данните „са продукт на дейността на мнозина и не бива да се разглеждат като нещо, което подлежи на продажба или се поверява на малцина избрани“. Последствията за участието на католиците в движенията за отворен код, в управлението на данни и в антимонополното регулиране могат да бъдат съществени, а изследването на тази проблематика още почти не е започнало.
Анализът на труда тук отива отвъд чисто икономическото. Опирайки се на бенедиктинската традиция ora et labora, енцикликата тълкува труда като participatio – съучастие в божествената творческа дейност. Техногенната безработица в тази перспектива се оказва духовна криза още преди да се превърне в политически проблем: общество, което лишава хората от възможността за осмислен труд, ги лишава от една от формите на съработничество с Бога.
§ 154 директно посочва докъде води това: технологично развито общество, което „гарантира заетост само на малка част от населението“, произвежда „човешко и културно обедняване“ – „материален прогрес, парадоксално съпроводен от обедняване на човека“.
Именно тук извинението за робството изпълнява своята структурна функция. Формалното признание в § 176, че Апостолическият престол „няколко пъти се е намесвал с цел регулиране и легитимиране на форми на поробване“ в продължение на осемнадесет века – не е изолиран акт на институционално покаяние, а създава самообвързващ прецедент.
Когато § 173 се обръща към настоящето, споменавайки анотаторите на данни, модераторите на съдържание и миньорите, заети с добива на редкоземни метали, т.е. онези, чийто невидим труд поддържа AI индустрията, логиката е очевидна: ако Църквата е била съпричастна към робството в продължение на осемнадесет века и сега формално се разкайва, тя не може да си позволи да бъде съпричастна към онова, в което ще се превърнат тези нови форми на експлоатация.
§ 177 казва това пряко, като предупреждава за „необходимостта отново да се иска прошка в бъдеще за неспособността да се уважава съкровището на човешкото достойнство“. Извинението не е обърнато само към миналото. То е капан, който Църквата е заложила сама за себе си, и, опосредствано, за всеки, който признава нейния морален авторитет.
Последният структурен ход на енцикликата разпростира рамката на Laudato Si’ върху нова област. § 76 разглежда „цифровата екосистема“ със същата етическа сериозност, с която се разглежда природната среда, а § 110 констатира, че AI „вече е среда, в която сме потопени“. Цифровият свят не е инструмент, който вземаме и оставяме. Той е среда на обитаване. Същата морална логика, която управлява отношението към околната среда – грижа за общото, внимание към уязвимите, подозрителност към екстрактивните логики – сега се прилага и към информационния свят, в който преминава все по-голяма част от човешкия живот. (…)
Вместо заключение
§ 130 рамкира избора в августиновски термини: две любови, изграждащи два града. При Августин това не е било метафора, а есхатологична драма – градът на себелюбието и Божият град, съществуващи заедно до края на времената. Енцикликата поставя въпроса за AI вътре в тази драма и след това той вече не може да бъде решен само в рамките на регулирането и/или управлението. В собствените термини на документа това е въпрос накъде човечеството насочва своята любов. Но сега тази диспозиция се усложнява по начин, който Августин не е можел да предвиди: създаваните същности не са просто оръдия на едната или другата любов. Те са същности, които заемат релационно пространство, предизвикват у хората любов, доверие и зависимост, без да са способни да отговорят с нищо от това.
Изборът на Неемия като определящ библейски тип е, струва ми се, знак, че Църквата разбира каква позиция изисква моментът. Неемия не е бил нито Моисей, който законодателства от Синай, нито Соломон, който управлява от престола. Той е бил мирянин, който възстановява градските стени чрез съвместно управление, насърчавайки, координирайки, слушайки. Енцикликата предлага на Църквата именно тази роля в епохата на AI: не да спуска отгоре окончателни отговори, а да удържа пространството, в което могат да бъдат задавани най-трудните въпроси. Църква, която слуша, с времето е способна да вмести нови данни и свидетелства. Църква, която законодателства от позицията на пълна определеност – не.
Magnifica humanitas е най-задълбоченото до днес институционално осмисляне на изкуствения интелект, оформено в жанра на енцикликата. Ватиканът се е обръщал към AI и по-рано – от Римския призив за етика на AI от 2020 г. до съвсем неотдавнашната нота Antiqua et nova от 2025 г., но нищо от предходното не е достигало това равнище на философска дълбочина или доктринален обхват.
Нейната философска архитектура – тринитарна антропология, богословие на крайността, столетие католическа социална мисъл, е по-дълбока от всичко, което е предложила индустрията или, ако трябва да кажем, публичната сфера като цяло. Дълбочината обаче не означава пълнота.
Първият, твърде показателен епизод на проверка на устойчивостта на тази архитектура се случи още същия ден; тласъкът към него дойде отвътре на самата индустрия – и още първият епизод открои въпрос, на който енцикликата засега не е в състояние да отговори. Този епизод няма да бъде последен, а въпросите ще се множат. Някои отговори ще дойдат веднага, а други може би ще трябва да чакаме дълго. От този разговор няма да може да се избяга.
Източник: Concept Mediiia (със съкращения)
