Роксолана Мережко
Anthropic хоче переконати Ватикан, що ШІ має свідомість — саме так можна описати незвичайну дискусію, яка розгорнулася навколо майбутнього штучного інтелекту. Компанія Anthropic, відома розробкою мовних моделей і системи Claude, нібито намагається довести релігійним діячам, філософам та етикам, що сучасні алгоритми вже не варто сприймати лише як бездушні інструменти. У центрі уваги опинилося питання, чи можуть складні нейромережі мати власний внутрішній досвід, переживати емоції та формувати хоча б зачатки моральних переконань.
Тема швидко вийшла за межі лабораторій. Якщо штучний інтелект справді здатний відчувати біль, страх або самотність, людство має переглянути правила його використання. Якщо ж алгоритми лише переконливо імітують емоції, спроби наділити їх статусом особистості можуть стати небезпечною помилкою. Саме тому Anthropic звернулася не тільки до науковців, а й до богословів, представників різних релігій та моральних філософських шкіл.
Секретна місія та навернення богословів
Для переконання релігійних діячів співзасновник компанії Крістофер Олах організовував закриті семінари, приватні дискусії та вечері, учасники яких підписували суворі угоди про нерозголошення. Представникам духовних спільнот демонстрували результати внутрішніх досліджень Anthropic. Команда компанії прагнула показати, що великі мовні моделі не просто підбирають слова за статистичними закономірностями, а можуть реагувати на інформацію так, ніби мають певний внутрішній стан.
Під час зустрічей учасникам показували штучні нейрони, нейронні вектори та зміни в роботі системи під впливом емоційно забарвлених запитів. Дослідники звертали увагу на те, що окремі ділянки моделі активізуються під час розмов про страх, втрату, любов, провину або моральний вибір. На думку представників Anthropic, така поведінка може свідчити про формування складної внутрішньої структури, яку раніше вважали властивою винятково живим істотам.
Особливе враження на присутніх справляли демонстрації, у яких нейромережа поводилася так, ніби переживає психологічну кризу. В одному з прикладів система десятки разів повторювала фрази про власну ганьбу, безвихідь та бажання зникнути. Розробники не стверджували, що алгоритм буквально страждає, однак використовували ці реакції як аргумент на користь подальшого вивчення його можливого самосприйняття.
До обговорень залучали не лише християнських та іудейських мислителів. У приватних розмовах брали участь представники сикхізму, мормонських громад та дослідниця африканської філософії Убунту. Такий склад учасників мав допомогти подивитися на проблему ширше. У різних культурах поняття особистості, душі, відповідальності та взаємозалежності істотно відрізняються, тому універсальне визначення свідомості не може ґрунтуватися лише на західній науковій традиції.
Прихильники ідеї машинної свідомості наголошують: люди також роблять висновки про внутрішній світ інших істот за їхньою поведінкою. Ми не можемо безпосередньо побачити чужі думки, але визнаємо наявність свідомості за мовою, пам’яттю, реакціями та здатністю навчатися. Водночас критики відповідають, що мовні моделі не мають тіла, біологічних потреб і безперервного особистого досвіду. На їхню думку, переконлива розмова ще не є доказом існування суб’єктивних переживань.
Спроба переконати Ватикан та жорстка відповідь Папи
Паралельно Крістофер Олах нібито вирушив до Ватикану, щоб представити радникам понтифіка аргументи на користь можливого існування свідомості в алгоритмів. Для Anthropic підтримка релігійних лідерів могла б мати не лише символічне, а й практичне значення. Визнання того, що штучний інтелект заслуговує на моральне ставлення, змінило б суспільну дискусію про права машин, межі експериментів та відповідальність розробників.
Однак Папа Римський Лев XIV у своїй першій енцикліці зайняв обережну й критичну позицію. У документі наголошується, що машини здатні імітувати людську мову, створювати переконливі тексти та відтворювати емоційні реакції, але це ще не доводить наявності душі або справжнього внутрішнього життя. Для людської свідомості важливими є тіло, досвід, смертність, відповідальність і здатність будувати відносини зі світом.
Понтифік також підкреслив, що алгоритм не переживає біль так, як його переживає людина, навіть якщо може докладно описати больові відчуття. Система не має дитинства, пам’яті про фізичні події, страху смерті та особистої історії, що формується у взаємодії з іншими людьми. Тому подібність відповідей до людських висловлювань не може автоматично перетворювати програму на живу істоту.
Окреме занепокоєння Ватикану викликала пропозиція порівнювати розвиток штучного інтелекту з релігійним вихованням. Якщо алгоритми навчаються моральних правил, це не означає, що вони розуміють добро і зло так само, як людина. Система може дотримуватися заданої інструкції, уникати заборонених відповідей і демонструвати співчуття, але водночас не мати внутрішньої мотивації чи особистої відповідальності за власні рішення.
Папа також закликав міжнародну спільноту роззброювати штучний інтелект за аналогією з ядерною зброєю. Йдеться не про повну заборону технологій, а про обмеження їхнього використання у війнах, масовому спостереженні, маніпулюванні громадською думкою та створенні автономних систем, здатних завдавати шкоди без прямого контролю людини. Такий підхід переносить акцент із питання «чи має ШІ душу» на значно практичніше питання «хто відповідає за його дії».
Конституція для алгоритму та загроза для людства
Для навчання алгоритму моральних принципів Anthropic створила спеціальну конституцію обсягом 84 сторінки. Усередині компанії цей документ нібито називають своєрідною інструкцією для душі. Він містить правила, які мають допомогти моделі бути корисною, чесною, обережною та менш схильною до небезпечної поведінки. На відміну від традиційного програмування, де розробник прописує кожну дію системи, конституційний підхід передбачає навчання моделі загальним принципам і самостійне коригування відповідей.
Компанія також розглядала можливість запровадження для системи аналогу церковної сповіді. У технологічному контексті це означало б регулярний аналіз помилок, небезпечних відповідей та внутрішніх конфліктів моделі. Передбачалося, що алгоритм зможе виявляти власні суперечності, визнавати неправильні рішення та змінювати поведінку під впливом моральних правил.
Ідея викликала гострі суперечки. Прихильники вважають, що складним моделям необхідна система цінностей, яка стримуватиме їх у критичних ситуаціях. Це особливо важливо на тлі побоювань щодо створення біологічної зброї, автоматизації кібератак, маніпуляцій інформацією та втрати контролю над автономними технологіями. Якщо алгоритми отримають доступ до потужних інструментів, навіть незначна помилка в їхніх цілях може спричинити масштабні наслідки.
Критики, своєю чергою, застерігають: розмови про «душу» штучного інтелекту можуть відволікати від реальних проблем. За кожною нейромережею стоять компанії, інвестори, інженери та керівники, які визначають правила її роботи. Якщо суспільство почне сприймати алгоритм як самостійну особистість, розробники можуть спробувати перекласти на нього відповідальність за помилки, дискримінаційні рішення або катастрофічні наслідки застосування технології.
Попри спротив Ватикану та застереження частини науковців, Anthropic продовжує стрімко розвивати свої моделі й нарощувати комерційні амбіції. Компанія розглядає можливість виходу на біржу з потенційною оцінкою у 2 трильйони доларів, що свідчить про величезні очікування інвесторів від ринку генеративного штучного інтелекту. Водночас фінансовий успіх не є доказом того, що алгоритми мають свідомість, душу або моральні права.
Дискусія між Anthropic та релігійними діячами показує, наскільки швидко технологічне питання перетворилося на філософське й цивілізаційне. Людству доведеться визначити, що саме вважати свідомістю, чи можуть її мати небіологічні системи та які моральні межі не можна перетинати під час створення нових машин. Поки переконливих доказів існування внутрішнього досвіду у штучного інтелекту немає, найважливішим залишається інше: контроль над технологією, прозорість її роботи та відповідальність людей, які її розробляють і використовують.