Папа Лев XIV закликає до гуманності в епоху штучного інтелекту

Папа Лев XIV у своєму першому великому маніфесті, опублікованому в понеділок, закликав до створення нової правової та етичної основи для регулювання штучного інтелекту.

У своєму документі, що називається Magnifica Humanitas, папа попереджає про ризики, пов’язані з штучним інтелектом та неконтрольованою технологічною владою. Він обговорює небезпеки, пов’язані з війною, що використовує штучний інтелект, вплив AI на працю, а також необхідність нових правових та етичних рамок для регулювання технологій.

Папа підкреслює економічні та соціальні зміни, які викликані швидким впровадженням штучного інтелекту, і недостатніми захистами для людей, що загрожують людській гідності. Він порівнює сучасну епоху AI з Вавилонською вежею, закликаючи суспільство уникати «вавилонського синдрому», що означає «ідолопоклонство прибутку, яке жертвує слабкими, однорідність, що нейтралізує відмінності, і претензію, що одна мова — навіть цифрова — може перевести все, включаючи таємницю особи, в дані та продуктивність».

Лист папи торкається важливих аспектів сучасного життя, в яких штучний інтелект став глибоко вкоріненим: втрата робочих місць, війна з використанням AI, а також вплив AI на дітей. Головним чином, енцикліка закликає до того, щоб гідність людини була центральною частиною прийняття рішень і управління. Лист є закликом до «морального та соціального розуміння, яке захищає пріоритет людської особи, щоб завжди людський інтелект, з його совістю та свободою, керував технічними інноваціями та відповідально визначав їх використання та межі», пише Лев.

Лист, що містить понад 42 000 слів, закликає до «обережності, ретельної оцінки і навіть, іноді, повільнішого темпу впровадження AI» як «вправи відповідальної турботи про людську родину». Серед деяких пропозицій:

• Соціальні критерії для впровадження автоматизації та AI, а також захист і програми перепідготовки для працівників.
• Люди, а не непрозорі технологічні системи, повинні приймати рішення про використання летальної сили.
• Допомога вчителям і учням у відповідальному, критичному та креативному використанні нових технологій.
• Прозорість і підзвітність, коли алгоритми використовуються для прийняття рішень щодо найму або доступу до послуг і можливостей.
• Розробка більш екологічно стійких технологій AI.

Вплив AI на людство став визначальним питанням для Папи Лева: він обрав своє папське ім’я на честь індустріальної революції, під час якої його попередник, Папа Лев XIII, видав свою власну енцикліку про захист працівників на фоні технологічних досягнень. Папа Лев також взаємодіє з індустрією AI — співзасновник Anthropic Крістофер Олах був присутній, коли папа представив свою енцикліку в понеділок. Politico повідомляє, що представники Amazon, Meta та Google зустрічалися з представниками Ватикану перед публікацією енцикліки, оскільки технологічна індустрія намагається вплинути на позиції церкви.

Енцикліка не є загальним запереченням AI. Скоріше, Папа Лев закликає до «роззброєння» технології — як у військовому, так і в економічному та соціальному сенсі. AI не повинен використовуватися для гонки за накопиченням влади або монополізації суспільства, говорить він.

«Роззброїти» означає дискредитувати припущення, що технічна влада автоматично надає право управляти. Роззброїти не означає відхиляти технології, а запобігати їх домінуванню над людством.