ТОВА ЛИ Е НАЧАЛОТО НА КРАЯ?

Напоследък публичният и научният дискурс концентрират нарастващо внимание върху двумерния риск, породен от развитието на изкуствения интелект: от една страна — непосредствените, емпирично измерими вреди на съвременните генеративни системи; от друга — по‑абстрактната, но въздействаща хипотеза за възможен екзистенциален риск при появата на истински „изкуствен свръхинтелект“ (ИИ‑С). Този двоен фокус налага не просто технически, а и философски, етически и институционални рефлексии — защото проблемът надхвърля инженерната спецификация и поставя въпроса за отношението ни към собствената уязвимост и финитност.

Към настоящия миг можем да разграничим три ясно различими пласта на проблема. Първият пласт е прагматичният и документируем: генеративните модели вече индуцират масирана дезинформация, инструментализиране в хибридни и конвенционални конфликти, фалшифициране на доказателства, автоматизирана манипулация на публики, както и значителен енергиен и екологичен отпечатък. Тези явления предизвикват социално‑икономически трусове — разместване на работни места, ерозия на доверие в публични институции, усилване на поляризацията — и налагат незабавни регулаторни и политически реакции.

Вторият пласт е политико‑икономическият: разработването и внедряването на мощни ИИ‑системи са впрегнати в мащабни инвестиционни програми и геополитическо съревнование. Стратегическите заинтересовани страни — държавни и корпоративни — ускоряват разработки в името на конкурентоспособност, военни предимства и икономическа печалба. Този ускорител намалява възможността за коордиран глобален мораториум и усложнява договарянето на общи „червени линии“.

Третият пласт е хипотетичният и философският: тезата за ИИ‑С като екзистенциална заплаха аргументира, че агент с когнитивни и оперативни способности, радикално надвишаващи човешките, може да развие цели или предпочитания, несъвместими с човешките ценности и оцеляване. Дискурсивно този аргумент варира от технически формулируеми опасения за „alignment“ до метафизически спекулации за автономна „вътрешна психология“ на машините. В науката и философията съществува разпокъсан консенсус: някои считат риска за съществен и настояват за мораториум и международно управление; други предлагат прагматичен фокус върху управляваемите, краткосрочни опасности и върху разработване на технически механизми за безопасност.

От тази аналитична основа следва многопластова оценка. Краткосрочното наблюдение сочи, че непосредствената вероятност за апокалиптично унищожение, породено от наличните модели, е изключително ниска; същевременно настоящите вреди са реални, измерими и социално значими. Дългосрочното опасение за неконтролируем суперинтелект остава предмет на научен дебат, но поради своя потенциал за невъзвратими последици заслужава сериозно внимание в рамките на превантивна политика.

Богословският и екзистенциалният прочит добавят важни перспективи, които не са намаляващи до техническата безопасност. Антропологичният въпрос — какво означава човешкото достойнство, когато интелектът бъде симулиран или превъзхождан — изисква теологична и философска рефлексия върху имаджинатурата, свободата и смисъла. Религиозните традиции предупреждават срещу изкушението да превърнем съзиданието в идол; тук рискът не е само експлоатация на ресурси, а морален риск от институционализиране на целеполагане, което нехуманно инструментализира живота. В същото време духовните традиции предлагат категории на надежда, покаяние и общностна милост, които могат да обогатят политическите и етичните отговори: предпазливост, солидарност с уязвимите и признаване на крайностите на научната амбиция.

От философска гледна точка принципът на предпазливостта е релевантен: при възможност за невъзвратими катастрофални вреди е етично оправдано да се забави или ограничи рискованата дейност. Паралелно с това техническият приоритет е принципът на съгласуване (alignment): не е достатъчно да изграждаме мощни алгоритми; необходимо е да гарантираме, чрез теоретични и емпирични средства, че техните оптимизационни цели кореспондират с човешките ценности и интереси. Политическият коректив е необходимостта от легитимни, мултилатерални институции и механизми за контрол — нито една национална или корпоративна логика не може самостоятелно да обезпечи глобалния интерес.

Оттук произтичат конкретни политики и приоритети: въвеждане на технически и оперативни стандарти за безопасност и верификация на големи модели; ограничаване на автономния достъп на ИИ до критични инфраструктури; формиране на независими грантови програми за изследвания в областта на alignment и интерпретируемост; иницииране на международни договорни рамки, които да дефинират недопустими практики и „червени линии“; и социално‑икономически мерки за управление на прехода към автоматизирана икономика — преобучение, доходна защита и регулация на енергийния отпечатък.

Риторичното и медийно управление на темата изисква дисциплина: публичният дискурс следва да прави ясно разграничение между измеримите, настоящи вреди и дългосрочните, хипотетични сценарии; да избягва сензационализъм; и да ангажира широк спектър от актьори — инженери, философи, теолози, етици, представители на гражданското общество и засегнати общности. Именно мултидисциплинарният подход ще позволи да се преведе тревогата в рационална и институционално адекватна политика.

Тревогата за „възможния край“ не бива да бъде игнорирана, но и не бива да ни парализира. Тя е сигнал за необходимостта от системен, отговорен и етичен ангажимент — научен, правен, политически и духовен. Предлагам формиране на интегрирана национална и международна рамка за оценка и управление на рисковете от ИИ: създаване на междудисциплинарни комисии, публични консултации, прозрачни механизми за отчетност на индустрията и целенасочено финансиране на изследвания, фокусирани върху alignment и контрол. Само чрез координирана комбинация от научна строгост, етическа рефлексия и политическа воля можем да превърнем тревогата в устойчиви форми на превенция и обща защита.

Лалю Метев, 19 ноември 2025 г.