Контекстно-орієнтований підхід є необхідним для того, щоб перевести принципи, такі як пояснювальна якість, у практику на глобальному рівні. Ця стаття ілюструє, як ШІ може стати більш надійним для користувачів у країнах Глобального Півдня завдяки більш креативним, культурно орієнтованим підходам до зрозумілості.
Програма Technology and International Affairs розробляє ідеї для вирішення викликів управління та ризиків нових технологій. Наші експерти визначають практичні кращі практики та стимули для лідерів галузі та уряду з питань штучного інтелекту, кіберзагроз, безпеки в хмарних середовищах та забезпечення глобальної цифрової інклюзії.
Принципи пояснювальної якості в ШІ
За останні п’ять років понад дюжину міжнародних установ наголосили на необхідності того, щоб результати систем штучного інтелекту (ШІ) були зрозумілими. Одними з перших впливових міжнародних керівних принципів, що формували політику в питанні ШІ, стали Принципи з ШІ від Організації економічного співробітництва та розвитку (ОЕСР). Третій принцип у списку п’яти ціннісних принципів ОЕСР передбачає прозорість і пояснювальність, що сприяє тому, щоб люди розуміли, коли вони взаємодіють з ШІ, і мали можливість оскаржувати відповідні результати.
Культурно контекстуалізовані пропозиції
Ця стаття досліджує, як реалізація концепції пояснювального ШІ може виграти від підходів, що спостерігаються в африканському контексті. Однією з пропозицій є залучення людей як пояснювачів ШІ, які можуть надати культурно контекстуалізовані й зрозумілі пояснення цієї технології. Інша пропозиція полягає в тому, що пояснювальність слід моделювати як генеративну вправу, що дозволяє користувачам налаштовувати пояснення відповідно до їхньої мови.
Виклики пояснювальної якості ШІ
Однак існують два можливі виклики. Перший — це відсутність чіткості (або консенсусу) про те, що означає дійсно пояснювальна система ШІ. Чи існують загальні критерії, яким ці системи повинні відповідати? Другий виклик полягає в тому, що домінуючі політичні приписи для заохочення пояснювального ШІ часто обґрунтовані західними перспективами.
Локалізація технологій
Багато африканських країн не мають достатньо ресурсів для розробки вдосконалених систем ШІ і тому значно залежать від ШІ, створеного більш технологічно розвиненими країнами Північної півкулі. Ця динаміка ставить африканські країни в позицію споживачів, використовуючи інструменти ШІ, розробка яких не завжди узгоджується з їхніми місцевими культурними нормами.
Обов’язок перед спільнотами
Важливо визнавати, що пояснювальний ШІ не лише покращує індивідуальне розуміння, але й може бути корисним для спільнот в цілому. Наприклад, збереження прав людини та пов’язаних норм конфіденційності та колективних ідентичностей може стати основою для впровадження пояснювальних інтерфейсів в рамках ШІ.
Герої в пояснювальному процесі
Інший аспект полягає в тому, щоб залучити людей у ролі пояснювачів ШІ, які можуть бути посередниками між системами ШІ та їх користувачами. Наприклад, в африканських громадах, традиційні герої, як греоти, можуть бути залучені для пояснення складних результатів систем ШІ, адаптуючи їх до культурного контексту.
Опинившись на порозі нових технологічних можливостей, ми повинні мати на увазі, що пояснювальність є процесом, а не лише результатом. Це вимагає адаптації до потреб різних спільнот, щоб гарантувати, що технології застосовуються найбільш ефективно та з довірою з боку суспільства.
