Провідні компанії в галузі штучного інтелекту, Anthropic та OpenAI, активно залучають фахівців із озброєння та вибухових речовин для зниження потенціалу катастрофічного зловживання їх передовими моделями ІІ. Ці дії підкреслюють зростаюче усвідомлення в галузі того, що безконтрольний доступ до потужного ІІ може мати руйнівні наслідки.
Пошук Спеціалізованого Досвіду
Обидві компанії розмістили оголошення про вакансії, які шукають людей з глибокими знаннями в галузі хімічної зброї, вибухових речовин та радіологічних пристроїв розпилення (брудних бомб). Anthropic безпосередньо шукає експерта з політики для розробки та моніторингу “захисних механізмів” для своїх ІІ-систем, запобігаючи їх використанню в зловмисних цілях. Ця роль вимагає не менше п’яти років досвіду роботи у сфері оборони озброєнь та здатності оперативно реагувати на ескалацію загроз, виявлених у запитах користувачів.
OpenAI, тим часом, розширює свою команду “Підготовки” дослідниками, що займаються виявленням та прогнозуванням “фронтирних ризиків”, пов’язаних з його найпотужнішими моделями ІІ. Ключова позиція, “Моделувальник Загроз”, централізуватиме оцінку ризиків між технічними, управлінськими та політичними підрозділами.
Напруга, що зростає з Державними Структурами
Ці найми були за недавніми зіткненнями між Anthropic і Міністерством Війни США (DOW). DOW зажадав необмеженого доступу до чат-боту Claude від Anthropic, чому Anthropic чинив опір через побоювання масового стеження та інтеграцію в автономні системи озброєнь. Генеральний директор Даріо Амодей висловив різку опозицію контрактам, які передбачали б розгортання Claude для таких цілей.
На відміну від цього, OpenAI вже уклав з DOW угоду про розгортання свого ІІ у закритих середовищах, хоч і з самонакладеними “червоними лініями” проти масового стеження та автономної озброєності. Ця розбіжність підкреслює зростаючу напруженість між ІІ-компаніями, які прагнуть контролювати використання своїх технологій, та урядами, які прагнуть використовувати їх для національної безпеки.
Більш Широкі Наслідки
Найм експертів із озброєння є різким визнанням реальних загроз, що походять від безконтрольного розвитку ІІ. Той факт, що компанії активно готуються до найгірших сценаріїв, говорить про те, що вони вважають ризик зловживання достовірним і негайним. Це ставить фундаментальні питання щодо управління ІІ, балансу між інноваціями та безпекою та ролі приватних компаній в управлінні екзистенційними загрозами.
Реакція галузі на ці виклики сформує майбутнє ІІ, визначаючи, чи стане він інструментом прогресу чи каталізатором катастрофи.
