Конкуренти в індустрії ШІ рідко погоджуються, але всі вони стурбовані тим, що їх технології можуть бути використані для розробки біологічної зброї.
У відкритому листі до законодавців США лідери технологій закликають Конгрес ухвалити правила, які закриють, на їхню думку, тривожну прогалину в біобезпеці, що може призвести до глобальної пандемії.
Діаріо Амодеї з Anthropic, Сем Альтман з OpenAI та Мустафа Сулейман з Microsoft — серед підписантів, які закликають законодавців США вимагати від компаній, що продають синтетичну ДНК та РНК, перевіряти покупки на наявність послідовностей, які можуть бути використані для створення небезпечних патогенів. Страх полягає в тому, що інструменти ШІ можуть спростити проектування потенційно небезпечних послідовностей, замовлення їх у виробників і використання їх у способах, які раніше вимагали б більшої спеціалізованої експертизи.
Серед інших підписантів — керівник ШІ Meta Олександр Ванг і Деміс Хассабіс з Google DeepMind, який отримав Нобелівську премію з хімії 2024 року за свою роботу з прогнозування білків на основі ШІ. Лист також підписали видатні вчені, експерти з національної безпеки та політики, а також керівники біотехнологічних компаній, таких як Twist Bioscience та Ansa Biotechnologies, які є великими постачальниками синтетичного генетичного матеріалу. Лист, як повідомляється, був організований двома аналітичними центрами: Фондом американських інновацій та Інститутом прогресу.
Вчені давно попереджають, що досягнення в синтетичній біології можуть спростити інженерні роботи з небезпечними організмами або навіть відновлення давно вимерлих патогенів — робота, яка може спричинити руйнування, якщо її неправильно використовувати, обробляти або випадково випустити. Але ця влада в основному залишалася в руках кваліфікованих вчених, які мають доступ до складних лабораторій, обладнання та ресурсів. Тепер занепокоєння полягає в тому, що, оскільки біологічні інструменти стають дешевшими та доступнішими, а моделі ШІ стають більш здатними, бар’єри, що запобігають зловживанню, починають руйнуватися. Експерти також попереджають, що ШІ може допомогти виробляти інші загрози, такі як хімічна зброя.
Хоча лист визнає, що багато найбільших постачальників синтетичної ДНК та РНК вже перевіряють замовлення, це робиться на добровільній, а не обов’язковій основі. Також слід вести детальний облік будь-яких замовлень, щоб відстежувати будь-які загрози, які уникли початкової перевірки, йдеться в листі.
“Враховуючи темп, з яким змінюється основна технологія, ми вважаємо, що потреба є терміновою”, — йдеться в листі. “Це рідкісний момент згоди серед учасників, які часто перебувають у конфлікті. Ми сподіваємося, що політики відреагують на це рішучими діями.”
Цікавий факт
Вчені вважають, що технології ШІ можуть не лише допомогти в розробці нових біологічних загроз, але й використовуватися для створення нових ліків та вакцин, що може суттєво змінити медичну галузь.
