20 критичних факторів розвитку генеративного штучного інтелекту

Від політики прийнятного використання до проблем управління змінами – ІТ-директори знаходяться в центрі ІТ-революції, що швидко розвивається і вимагає вправної навігації у вирішенні нових проблем, що виникають і розвиваються в бізнес-середовищі.

Організації хочуть якомога швидше дізнатися, як отримати вигоду для бізнесу від генеративного ШІ, не ставши жертвою незліченних пасток.

Крива впровадження тут стрімко повзе вгору, і більшість керівників підприємств працюють під тиском, щоб реалізувати потенціал технології, всього через кілька місяців після того, як інструмент генеративного штучного інтелекту ChatGPT був запущений в листопаді 2022 року, викликавши хвилю ентузіазму (і занепокоєння).

Лише погляньте на статистику: близько 45% з 2500 керівників, опитаних у звіті дослідницької компанії Gartner за травень 2023 року, сказали, що розголос навколо ChatGPT спонукав їх інвестувати більше в ШІ, 70% заявили, що їхні організації вже досліджують ШІ, а 19% перебувають у пілотному або виробничому режимі. Ці дані збігаються з нещодавнім опитуванням Foundry CIO Tech Talk від липня 2023 року, яке показало, що 60% ІТ-лідерів активно використовують ШІ на своїх підприємствах, а 28% перебувають на стадії вивчення.

Згідно з опитуванням Foundry, більшість ІТ-лідерів підвищують кваліфікацію співробітників у сфері ШІ (54%) і надають користувачам інструменти ШІ (52%), тоді як 42% розробляють політику та керівні принципи щодо ШІ. Незважаючи на це, технологічні лідери, виконавчі радники, консультанти з управління та ентузіасти штучного інтелекту сходяться на думці, що топ-менеджмент стикається з багатьма проблемами при тестуванні та впровадженні генеративного штучного інтелекту. Вони також зазначають, що керівники вищої ланки – як провідні технологи в своїх організаціях – будуть вирішувати ці питання, коли компанії визначатимуть свої стратегії генеративного ШІ.

Тож які ж проблеми ускладнять корпоративну стратегію використання штучного інтелекту? Ось список з 20 основних проблем, які формують сучасні стратегії ШІ.

Рекомендуємо прочитати:

10 ІТ-ролей, які найважче заповнити. А як ви заповнюєте свої вакансії?

ТОП-10 інновацій, які можуть переосмислити ІТ

7 помилок делегування ІТ, яких слід уникати

Згідно з різними повідомленнями в пресі, деякі відомі компанії спочатку заблокували інструменти генеративного ШІ, такі як ChatGPT, з різних причин, зокрема через занепокоєння щодо захисту власних даних. Деякі компанії зняли свої заборони і дозволили обмежене використання технології; інші – ні.

Оскільки постачальники додають генеративний ШІ до своїх пропозицій корпоративного програмного забезпечення, а співробітники тестують технологію, ІТ-директори повинні консультувати своїх колег щодо переваг і недоліків використання генеративного ШІ, а також потенційних наслідків його заборони або обмеження.

"Зараз питання номер один – дозволяти чи ні" – каже Мір Кашифуддін, керівник практики з питань ризиків та конфіденційності даних у PwC в США. "Багато компаній ведуть дискусії про те, блокувати чи дозволяти".

Це стосується і топ-менеджерів у сфері технологій, оскільки самі ІТ-директори обговорюють, просувати чи стримувати дослідження штучного інтелекту.

Компанії, які заблокували використання штучного інтелекту, виявляють, що деякі співробітники все ще тестують його. Вони також усвідомлюють, що їм доведеться навчитися використовувати потенціал цієї технології або залишитися позаду.

Це змушує організації шукати найбільш безпосередні ризики, пов'язані з впровадженням пілотних проектів штучного інтелекту.

"Робота ІТ-директора полягає в тому, щоб ставити питання про потенційні сценарії. ІТ-директор повинен говорити про ризики" – каже Мері Кармайкл, керуючий директор з консалтингу щодо ризиків у компанії Momentum Technology та член Робочої групи з нових тенденцій та Консультативного комітету з питань ризиків ISACA.

Кармайкл каже, що перед керівниками стоїть ще одне важливе питання, коли мова йде про такі інструменти, як ChatGPT: "В якому напрямку ви зараз будете спрямовувати своїх співробітників з точки зору технологій, які є безкоштовними та доступними?".

Кармайкл розповідає, що нещодавно вона запитала керівників, чи є у них політика прийнятного використання, і лише деякі з них відповіли, що створили її, щоб вказати своїм співробітникам, що компанія вважає прийнятним.

"Працівники вже запитують: "Чи повинен я використовувати цей інструмент? Коли я повинен його використовувати? На що мені слід звернути увагу? Але на даний момент ІТ-відділ, здається, намагається наздогнати нас", – каже Кармайкл. "Тому ІТ-директорам потрібно подумати про корпоративний ген ШІ з контролем; їм потрібно подумати про встановлення певних правил".

Генеративний штучний інтелект – це руйнівна технологія, тому ІТ-директорам та їхнім колегам у раді директорів потрібно подумати, чи стане їхня компанія жертвою цієї сили, і якщо так, то яким чином.

"Як генеративний штучний інтелект впливає на вашу компанію? Як ChatGPT вплинув на вашу бізнес-модель, наприклад?" – запитує Кармайкл, зазначаючи, що деякі компанії вже втратили значну ринкову вартість перед обличчям раптової конкуренції з боку генеративного штучного інтелекту.

"Це проблема для ІТ-директорів. Деякі з них очікують, що завдяки цій технології вони зможуть заощадити витрати, але вони також повинні знайти способи включити цю технологію [в продукти своєї компанії], щоб посилити пропозицію", – додає Кармайкл. "Саме тут ІТ-директорам необхідно стати обізнаними в цій технології та надавати рекомендації і поради".

Наче цих викликів було недостатньо, керівники повинні діяти швидко і керувати, коли все вже запущено і працює.

Дуглас Меррілл (Douglas Merrill), партнер консалтингової компанії McKinsey & Co., каже, що ІТ-директори повинні застосовувати гнучкі процеси до своєї стратегії ШІ. "Ви повинні вчитися на ходу, але робити [ітерації] безпечними і контрольованими, а також зосередитися на управлінні ризиками" – пояснює він.

Оскільки ІТ-директори намагаються впровадити контроль і управління ризиками в технологію, яка викликає широкий інтерес і все ще перебуває на стадії експерименту, вони роблять це без попередніх рекомендацій і підтримки.

"Одна з особливих проблем, з якою ми всі стикаємося, полягає в тому, що генеративний ШІ є дійсно новою технологією, яка розвивається дуже швидко, тому існує не так багато інструментів", – говорить Меррілл. Рекомендації щодо ризиків для генеративного ШІ є крихкими і новими, і не існує загальноприйнятого "Ось як треба думати про хеджування ризиків". Врешті-решт вони з'являться, але поки що їх немає".

Ще одна сфера, на яку слід звернути увагу ІТ-директорам, – це використання генеративного ШІ для диференціації своїх організацій.

ІТ-директорам слід зосередитися на тому, "де вони можуть ефективно використовувати генеративний ШІ. Це не молоток. Вони шукають те, що можливо. І є так багато можливостей, які повинні бути безпосередньо узгоджені з бізнес-стратегією" – каже Френсіс Карамузіс, віце-президент з аналітики дослідницької компанії Gartner.

Технологічні інновації не є чимось новим для ІТ-директорів, але штучний інтелект справді створює нові виклики через швидкість його розвитку, а також його потужність і складність.

"ІТ-директорам доведеться винаходити, навчати і виконувати завдання зовсім по-іншому, беручи до уваги швидкість і гнучкість рішень" – додає Карамузіс.

Дослідницька компанія IDC у своєму дослідженні "Висновки щодо генеративного штучного інтелекту від Enterprise Intelligence Services", опублікованому в травні 2023 року, виявила, що майже 70% покупців послуг корпоративної аналітики розглядають або активно працюють над сценаріями використання генеративного штучного інтелекту.

Компаніям потрібен спосіб збирати, аналізувати та визначати пріоритетність ідей щодо використання технології на користь бізнесу.

"ІТ-директори повинні в першу чергу створити чітку дорожню карту для впровадження генеративного ШІ. Незалежно від того, чи йдеться про підвищення продуктивності або інші комерційні вигоди, вони повинні узгодити свої цілі з [усім топ-менеджментом], перш ніж обирати технології для реалізації цієї дорожньої карти", – говорить Го Сер Йонг, керівник відділу комплаєнсу в Advance.AI і член робочої групи ISACA Emerging Trends Working Group.

Карамузіс каже, що ІТ-директори повинні використовувати свій попередній досвід у визначенні пріоритетів для технологічних ініціатив і застосовувати таку ж дисципліну до ідей, пов'язаних зі штучним інтелектом, щоб гарантувати, що їхні організації інвестують з розумом.

У своєму дослідженні IDC виявила, що найбільш пріоритетні варіанти використання ШІ належать до категорій управління знаннями, генерації коду, а також проектування та розробки продуктів і послуг. Покупці найчастіше погоджувалися з тим, що генеративний ШІ дозволить їхнім працівникам зосередитися на більш важливих завданнях. Покупці найчастіше не погоджувалися з тим, що генеративний ШІ піддасть їх більшому ризику.

Опитування Foundry на тему ШІ показало, що ІТ-директори роздрібної торгівлі лідирують у визначенні варіантів використання (49%), за ними йдуть ІТ-лідери у виробництві (42%), технологіях (42%) і фінансових послугах (32%).

Компанії можуть впроваджувати генеративний ШІ в своїх організаціях трьома різними способами, і ІТ-директори вирішують, який з них найкраще підходить для них.

McKinsey розробила власну концепцію, яка описує різні типи додатків як "приймач", "формувач" і "творець".

Приймач використовує те, що створив хтось інший, використовуючи можливості прямо з коробки. Формувальник формує та адаптує такі можливості відповідно до власних потреб або власних даних. Творець – найрідкісніший з трьох типів, як стверджують у McKinsey's Merrill – має найбільшу потребу в структурі та контролі, а тому будує власні моделі, які відповідають його вузькоспеціалізованим потребам.

Незалежно від того, чи є компанія споживачем, формувачем або виробником, для ефективного використання генеративного ШІ їй знадобиться сучасний технологічний стек і політика обробки даних.

"Дані, хмарні структури, обчислювальні мережі та сховища – це, безумовно, обов'язки ІТ-директора" – каже Карамузіс, додаючи, що ІТ-директори також несуть відповідальність за виявлення та усунення будь-яких вузьких місць або бар'єрів у стеку технологій або даних, які можуть завадити їхнім організаціям досягти заявлених цілей у сфері генеративного ШІ. "ІТ-директори – це ті, хто створить технологію, яка зробить це можливим", – додає він.

У середині весни 2023 року південнокорейська компанія Samsung заборонила своїм співробітникам використовувати інструменти генеративного штучного інтелекту після того, як виявила, що частина її внутрішнього вихідного коду була завантажена в ChatGPT. Інші компанії стурбовані тим, що їхні співробітники роблять те саме, каже Кашифуддін.

"Оскільки працівники взаємодіють з цими інструментами, компаніям необхідно переконатися, що вони не вводять власні дані, які надсилаються назад до базових моделей", – додає Кашифуддін.

Директори очікують від своїх ІТ-директорів, а також менеджерів з управління даними та менеджерів з питань конфіденційності, що вони вживатимуть заходів, розроблятимуть політику управління, впроваджуватимуть засоби контролю та розгортатимуть інструменти моніторингу, щоб гарантувати, що працівники дотримуються прийнятних політик використання та не розголошують власні дані та інтелектуальну власність.

Ще одне питання, з яким стикаються ІТ-директори, а також директори з питань даних, комплаєнсу, ризиків і безпеки: як контролювати і гарантувати, що співробітники не порушують законодавство про конфіденційність даних і найкращі практики захисту даних під час використання генеративного штучного інтелекту.

"Коли ви передаєте свої дані в штучний інтелект, який контролюється кимось іншим, ви втрачаєте контроль над цими даними" – попереджає Карл Фроггетт, ІТ-директор компанії Deep Instinct, творця платформи кібербезпеки.

За словами експертів, ІТ-директорів також просять розробити способи розпізнавання та аудиту результатів генеративного ШІ, щоб забезпечити точність, неупередженість і відсутність порушень захищеної інтелектуальної власності.

Як пояснює Кармайкл, "підзвітний і зрозумілий ШІ – це наступний виклик, з яким доведеться мати справу ІТ-директорам"

Уряди в усьому світі обговорюють, чи варто регулювати використання штучного інтелекту, і якщо так, то яким чином. У той час як корпоративні юридичні відділи та зовнішні консультанти допоможуть керівникам зрозуміти, що нові правила означають для них, ІТ-директори відіграють важливу роль у забезпеченні відповідності технології штучного інтелекту на підприємстві будь-яким новим правилам.

"ІТ-директори повинні бути в курсі змін нормативно-правової бази, пов'язаної з використанням ШІ, наприклад, нещодавнього Закону Європейського Союзу про штучний інтелект", – говорить Гох. "Дотримання законів про захист даних, правил інтелектуальної власності, галузевих інструкцій та етичних стандартів має вирішальне значення. ІТ-директори повинні тісно співпрацювати з юридичними командами, щоб зрозуміти і вирішити будь-які правові наслідки, пов'язані з генеративним штучним інтелектом".

Кашифуддін та ін. зазначають, що ІТ-директори повинні допомагати своїм організаціям і самим працівникам впроваджувати процедури забезпечення якості, які перевіряють будь-які ідеї, що генеруються ШІ. Це включає в себе впровадження контролю якості в ІТ для будь-якого коду, який розробники хочуть використовувати, додає Кашифуддін.

Наслідки нехтування цим кроком можуть бути значними, як показують деякі широко розрекламовані приклади. Одним з яскравих прикладів є справа нью-йоркського адвоката, який зіткнувся з судовим переслідуванням після того, як подав юридичний документ, складений за допомогою ChatGPT, що містив цитати з судових справ, вигаданих за допомогою цієї технології.

Штучний інтелект стрімко змінює попит на ІТ-навички та таланти, і співробітники всієї організації повинні навчитися працювати з генеративними інструментами штучного інтелекту.

У той же час, ІТ-персонал повинен перекваліфікуватися для роботи з інструментами генеративного ШІ, щоб виконувати свою роботу і здобути навички, необхідні для підтримки технології в міру її використання в організації.

Ще одна сфера занепокоєння ІТ-директорів – це те, як хакери використовують генеративний штучний інтелект.

"Ми говоримо про новий рівень витонченості [хакерів] у створенні електронних листів і повідомлень та обході біометричних даних, оскільки генеративний штучний інтелект набуває індивідуальності, манер і фраз, які використовувала б реальна людина", – каже Фроггетт, додаючи, що генеративний ШІ може генерувати фальшиві відео та звуки, які виглядають автентичними.

Такі витончені атаки можуть зробити існуючі засоби контролю безпеки, такі як голосова автентифікація, застарілими, що змушує ІТ-директорів і директорів з інформаційної безпеки швидко знаходити альтернативи.

"Засоби контролю, які ми мали на місці, можуть не спрацювати через те, що вже робить генеративний штучний інтелект", – додає Фроггетт. 

Як зазначає Го: "ІТ-директори повинні оцінити прогалини в навичках своїх ІТ-відділів і забезпечити належне навчання та ресурси для розуміння потреб і ефективної роботи з генеративним ШІ".

У звіті за березень 2023 року Goldman Sachs підрахував, що близько двох третин нинішніх робочих місць "вразливі до певної міри до автоматизації за допомогою штучного інтелекту, а генеративний ШІ може замінити до чверті нинішніх робочих місць". Іншими словами, фірма заявила, що через автоматизацію може бути втрачено еквівалент 300 мільйонів робочих місць з повною зайнятістю.

"Існує багато невизначеності. Люди задаються питанням: "Як це вплине на мою кар'єру? Чи потрібно мені перекваліфікуватися?", – каже Кармайкл.

"Як частина виконавчої команди, ІТ-директори повинні працювати над тим, щоб залучати своїх співробітників і вирішувати їхні проблеми. Штучний інтелект створить робочі місця – і, можливо, не тільки створить, але й призведе до їх втрати" – додає він. Над цією дилемою повинні задуматися IT-директори, вирішуючи складну проблему управління змінами, пов'язаними зі штучним інтелектом.

ІТ-директори будуть серед керівників, відповідальних за те, щоб провести свої організації через усі зміни, які принесе штучний інтелект.

Кармайкл та ін. стверджують, що ІТ-директори природно підходять для цієї роботи; вони розвивали свої навички в цій сфері протягом останнього десятиліття, проводячи свої організації через цифрову трансформацію.

Однак дехто стверджує, що керівництво майбутніми змінами буде відрізнятися від попередніх сценаріїв управління змінами, оскільки швидкість впровадження та руйнівні наслідки, які приносить штучний інтелект, можуть затьмарити попередні технологічні революції.

"Темпи застали всіх зненацька, і тепер ми повинні йти в ногу з ними", – каже Кармайкл. "Питання полягає в тому, як з усім цим добре впоратися і впевнено рухатися вперед".

Очевидно, що ІТ-директор не в змозі впоратися з усіма цими питаннями самотужки – та й не повинен намагатися. Однак, будучи головним технологом у багатьох організаціях, ІТ-директор, швидше за все, буде ключовим радником керівництва щодо ризиків і можливостей, які несе з собою штучний інтелект.

"ІТ-директор уможливлює або оснащує, виступає в ролі фасилітатора, радника та виконавця", – каже Карамузіс. "Тож зараз роль ІТ-директора – це одна з невід'ємних ролей у керівництві, яка допомагає іншим зрозуміти весь перелік речей, які необхідно зробити".