Папа Лев представив перший великий документ навчання свого понтифікату, попереджаючи, що штучний інтелект потрібно «роззброїти».
«Слово сильне, я знаю, але навмисно обране, оскільки цей момент потребує слів, здатних привернути увагу», — зазначив Папа.
Енцикліки технічно є листами до католицьких єпископів, але за останні десятиліття ці послання стали messages to the world від Папи.
Хоча цей лист зосереджено на штучному інтелекті, Папа Лев також включив один із найсильніших, найвичерпніших вибачень від Ватикану за роль Католицької Церкви в работоргівлі.
Це було «неможливо не відчувати глибокого смутку, спостерігаючи за неймовірними стражданнями і приниженнями, які зазнали так багато», написав Папа, додавши, що він «щиро просив про вибачення» від імені Церкви.
Лев згадав про работоргівлю у зв’язку зі штучним інтелектом, зазначаючи, що світ ризикує нормалізувати експлуатацію людей знову — як у його виробництві, так і в його застосуваннях.
Деякі з найсильніших образів Папи в документі пов’язані з рабством, застерігаючи про паралелі між історичною трагедією традиційного рабства і новими загрозами «цифрового рабства».
Він запропонував ризик подібної нормалізації експлуатації і зазначив, що людство стоїть на подібному моральному перехресті.
Незвично, що Папа Лев вирішив представити енцикліку — під назвою «Magnifica Humanitas» («Велична людяність») — сам, у Ватикані, поряд з експертами у сфері штучного інтелекту, включаючи Крістофера Олаха, спільного засновника американської компанії Anthropic.
У своїх заявах після презентації енцикліки Олах зазначив, що кожна лабораторія штучного інтелекту, в тому числі його, працює «в середині набору стимулів і обмежень, які можуть іноді суперечити правильному вибору».
Вважається помилкою вірити, що питання штучного інтелекту найкраще вирішуються комп’ютерними науковцями, такими як він сам, додав Олах: «Питання, які піднімає штучний інтелект, є більшими за дослідницьку спільноту штучного інтелекту, не лише в своїх наслідках, але також у своїй суті».
Енцикліка Папи, яка також визнала безліч потенційних небезпек у сфері штучного інтелекту, є також стриманим і чітким повідомленням для тих, хто займає владні позиції, щодо їх відповідальності в стримуванні «загроз», які вона становить.
Наприклад, Папа засудив використання штучного інтелекту у війні, зазначивши, що зменшення контролю людей над зброєю ускладнює визнання війни «справедливою» і попередив про небезпеку початку гонки озброєнь в сфері штучного інтелекту.
«Жоден алгоритм не може зробити війну морально прийнятною», — написав Папа.
Штучний інтелект не лише не усуває «внутрішню нелюдяність» війни, сказав він, але ризикує змусити конфлікти спалахувати швидше, перетворюючи їх на безособові, «знижуючи поріг для звернення до насильства, трансформуючи захист у прогнозування загроз і, отже, зменшуючи жертв до даних».
Лев також засудив вплив штучного інтелекту на політику — наприклад, те, як його використовували для маніпуляції зображеннями і відео, що, за його словами, піддає людей упередженим або оманливим перспективам.
В минулому Папа порівнював сьогоднішню потребу в заходах для захисту людей в умовах розвитку штучного інтелекту до тих, які були потрібні для забезпечення людської гідності під час індустріальної революції.
Він запропонував порівняння того, як бездіяльність стосовно ризиків штучного інтелекту сьогодні нагадує «затримку, з якою суспільство і Церква виступили проти прокляття рабства». Він навіть згадував про ризики «цифрового колоніалізму», пов’язуючи зловживання колоніальної епохи з сучасними технологічними практиками.
В одному з моментів цього документа Папа безпосередньо звернувся з «особливим закликом» до тих, хто розробляє штучний інтелект.
«Розробники несуть особливу етичну та духовну відповідальність, адже кожен вибір у дизайні відображає бачення людства», — зазначив він.
Який же буде вплив всього цього?
Папа Лев скликав комісію для подальшої роботи над його проектом, але існують великі запитання щодо того, наскільки ефективними всі ці зусилля будуть у контексті швидкого технологічного прогресу.
У 2015 році покійний Папа Франциск написав свою енцикліку «Laudato Si», яка була зосереджена на терміновій потребі вирішення криз клімату — проте потім у 2023 році висловив розчарування щодо бездіяльності у цій сфері.
Як би не був енергійним Папа Лев у своїх закликах до контролю над штучним інтелектом, можливо, він виявить себе видаючи подібне попередження в наступні роки.
