Протягом двох тисячоліть людство задавалося фундаментальним питанням: чи слід сліпо слідувати авторитетам, навіть божественним, чи залишати за собою право приймати власні рішення? Ця давня дискусія, яка виникла в першому столітті нашої ери в єврейському законодавстві, тепер лежить в основі майбутнього штучного інтелекту.
За легендою, рабин Еліезер, упевнений у своїй правоті, творив чудеса, щоб підтвердити свою правоту. Він змушував дерева рухатися, річки текли назад і руйнувалися стіни синагоги, зрештою почувши гуркіт голосу з неба, який підтверджував його рацію. Однак інші мудреці відкидали його, кажучи, що закон ґрунтується на людських рішеннях, а не на Божому велінні. «Тора не на небі!» – наполягали вони.
Це не просто архаїчна теологічна дискусія; це схема сучасної дилеми ШІ. Сучасний розвиток штучного інтелекту, особливо гонитва за «суперінтелектом», швидко переходить від створення корисних інструментів до створення богоподібної сутності з неймовірною силою. Але навіть якби такий штучний інтелект ідеально узгоджувався з людськими цінностями, чи повинні ми віддати йому контроль?
Ілюзія відповідності
Експерти говорять про узгодження ШІ з людськими цінностями, але справжнє узгодження полягає не лише в запобіганні шкідливих наслідків. Це збереження автономії людини. Якщо ШІ все вирішуватиме за нас, який сенс залишиться в нашому житті? Філософ Джон Хікс стверджував, що Бог навмисно віддаляється від людських справ, щоб дозволити свободу волі; чи повинен цей же принцип застосовуватися до ШІ?
Амбіції галузі більше не обмежуються чат-ботом, а створюють «суперінтелект», здатний вирішувати всі питання фізики та приймати рішення за людство. Генеральний директор OpenAI Сем Альтман говорить про «магічний розум у небі», силу, здатну сформувати наше майбутнє. Ця амбіція змушує нас запитати: навіть якщо ми створимо абсолютно моральний ШІ, чи повинні ми це робити? Або він позбавить нас вибору, позбавивши сенсу існування?
Проблема відповідності глибша, ніж код
Вирішити «проблему відповідності» — забезпечити, щоб штучний інтелект робив те, що ми хочемо — — це не просто технічне завдання. Це філософська криза. Мораль суб’єктивна, суперечлива і залежить від контексту. Інженери штучного інтелекту, які часто не мають досвіду в етиці, мають труднощі з визначенням навіть основних принципів. Поверхнева етика призвела до упередженості, дискримінації та навіть трагічних наслідків.
Навіть якби ми домовилися про єдину моральну основу, вона все одно була б недосконалою. Історія вчить нас, що порушення правил може бути доброчесним: відмова Рози Паркс поступитися місцем в автобусі була не просто незаконною; він викликав революцію громадянських прав. ШІ повинен розуміти, що моральний вибір не завжди очевидний. Деякі цінності просто непорівнянні, що змушує робити важкий вибір там, де кращого варіанту немає.
Парадокс за межами інтелекту
Деякі дослідники, такі як Джо Едельман з Інституту переговорів про значення, вважають, що зробити ШІ послідовним можливо, але лише якщо він навчиться визнавати, коли не знає відповіді. «Якщо ви змусите [ШІ] зрозуміти, який вибір є важким, ви навчите його чомусь про мораль», — каже він. Але це означає, що ШІ систематично замовчує критичні питання.
Інші, наприклад Еліезер Юдковскі, стверджують, що відповідність — це інженерна проблема, яку необхідно вирішити. Він вважає, що ми повинні створити суперінтелект і дозволити йому керувати суспільством, приймаючи рішення на основі «узгодженої екстрапольованої волі» — алгоритму читання думок, який екстраполює те, чого хотіло б людство, якби знало все.
Такий підхід створює привид «тиранії більшості», коли думки меншості пригнічуються всемогутнім ШІ. Філософ Нік Бостром попереджав про майбутнє, де суперінтелект формує все людське життя без жодних дій.
Вибір перед нами
Відновлюється давня суперечка: чи довіряти вищій силі, навіть якщо вона штучна? Юдковський вважає, що ми повинні створити штучний інтелект і дозволити йому вирішувати, навіть якщо це означає відмову від контролю. Але багато хто не погоджується. Понад 130 000 дослідників і більшість громадськості виступають за регулювання або навіть заборону.
Зрештою, питання полягає не лише у створенні ШІ, а й у тому, якого майбутнього ми хочемо. Ми шукаємо інструмент для розширення нашого інтелекту чи бога, щоб замінити нашу автономію? Урок Талмуду залишається ясним: навіть божественний авторитет не повинен диктувати людям вибір. Майбутнє ШІ залежить від того, чи ми запам’ятаємо цей урок.
Прагнення до суперінтелекту – це не просто технологічний пошук; це філософський перегляд. ШІ, який ми створимо, сформує не лише наш світ, але й сам сенс людського існування.
