Необхідність та ризики використання «тіньового» ШІ в компаніях

«Легше отримати пробачення, ніж дозвіл», – каже Джон, програміст у компанії, що надає технології фінансових послуг. «Просто дійте. А якщо потім будете мати проблеми, розберіться з цим», – додає він.

Джон – один із багатьох, хто використовує свої власні інструменти штучного інтелекту на роботі без дозволу ІТ-відділу (чому ми не використовуємо його повне ім’я).

Широке використання особистих AI-інструментів

Згідно з опитуванням, проведеним компанією Software AG, половина всіх працівників знань використовують особисті інструменти ШІ.

Дослідження визначає працівників знань як «тих, хто переважно працює за столом або комп’ютером».

Деякі користувачі зазначають, що їхня ІТ-команда не пропонує AI-інструменти, тоді як інші бажають мати можливість вибору.

Компанія Джона надає GitHub Copilot для підтримки розробки програмного забезпечення на основі ШІ, але він віддає перевагу Cursor. «Це в основному розширене автозаповнення, але дуже хороше», – говорить він. «Воно заповнює 15 рядків одночасно, а потім ви дивитеся на це і кажете: «Так, це те, що я б написав». Це дозволяє вам відчути себе більш вільно у своїй роботі».

Гнучкість у виборі AI-інструментів

Джон рекомендує компаніям підтримувати гнучкість у виборі AI-інструментів. «Я всім на роботі радив не продовжувати командні ліцензії на рік вперед, бо через три місяці весь ландшафт зміниться», – запевняє він.

Випуск DeepSeek, безкоштовної моделі ШІ з Китаю, тільки розширить можливості AI.

Використання сторонніх AI-інструментів

Петер (це не його справжнє ім’я) є менеджером продукту в компанії зберігання даних, яка надає своїм працівникам чат-бота Google Gemini. Хоча зовнішні AI-інструменти заборонені, Петер використовує ChatGPT через пошуковий інструмент Kagi. Він вважає, що найбільша перевага AI полягає в тому, щоб оспорювати його думки, коли він просить чат-бота оцінити його плани з різних перспектив клієнтів.

«ШІ не просто надає вам відповіді, він є вашим спаринг-партнером», – говорить він.

Ризики тіньового використання ШІ

Використання несанкціонованих AI-застосунків іноді називають «тіньовим ШІ». Це більш специфічна версія «тіньового ІТ», коли хтось використовує програмне забезпечення або послуги, які не були схвалені ІТ-відділом.

Harmonic Security допомагає визначати тіньовий ШІ та запобігати неналежному введенню корпоративних даних до AI-інструментів.

Проблеми з безпекою та конфіденційністю

Однак, незважаючи на популярність тіньового ШІ, його використання супроводжується ризиками.

Близько 30% застосунків, які бачить Harmonic Security, навчаються за інформацією, введеною користувачем. Це означає, що інформація користувача стає частиною AI-інструмента і може бути опублікована іншим користувачам у майбутньому.

Хоча компанії можуть бути стурбовані можливим витоком комерційних таємниць, Аллістер Патерсон, генеральний директор та співзасновник Harmonic Security, вважає, що це не ймовірно. «Досить важко отримати дані прямо з цих [AI-інструментів]», – говорить він.

Однак компанії забезпечать, що їхні дані зберігаються в AI-сервісах, над якими вони не мають контролю, і які можуть підлягати зламам даних.

Важливість діалогу та обговорення

Саймон Хейтон-Вільямс, генеральний директор Adaptavist Group, вважає, що AI дозволяє швидко отримати досвід, не втрачаючи його з уваги. Він радить компаніям, що виявлять використання тіньового ШІ, «привітати їх у клубі» і зосередитися на розумінні того, що люди використовують та чому.

Компанія Trimble, яка надає програмне та апаратне забезпечення для управління даними про побудоване середовище, створила Trimble Assistant – внутрішній AI-інструмент, заснований на тих самих AI-моделях, що й ChatGPT.

Кероліна Торттіла, директор AI у Trimble, закликає усіх досліджувати нові інструменти, які можуть допомогти у їх професійному зростанні, засягаючи важливість захисту чутливих даних.

«Необхідно постійно обговорювати, які інструменти найближчі до нас», – зазначає вона.

Вам також може сподобатися

Залишити відповідь

Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *

Більше у Бізнес