20 критических факторов развития генеративного искусственного интеллекта

От политики приемлемого использования до проблем управления изменениями – ИТ-директора находятся в центре быстро развивающейся ИТ-революции, которая требует умелой навигации в решении новых проблем, возникающих и развивающихся в бизнес-среде.

Организации хотят как можно скорее узнать, как получить выгоду для бизнеса от генеративного ИИ, не став жертвой бесчисленных ловушек.

Кривая внедрения здесь стремительно ползет вверх, и большинство руководителей предприятий работают под давлением, чтобы реализовать потенциал технологии, всего через несколько месяцев после того, как инструмент генеративного искусственного интеллекта ChatGPT был запущен в ноябре 2022 года, вызвав волну энтузиазма (и беспокойства).

Только взгляните на статистику: около 45% из 2500 руководителей, опрошенных в отчете исследовательской компании Gartner за май 2023 года, сказали, что шумиха вокруг ChatGPT побудила их инвестировать больше в ИИ, 70% заявили, что их организации уже исследуют ИИ, а 19% находятся в пилотном или производственном режиме. Эти данные совпадают с недавним опросом Foundry CIO Tech Talk от июля 2023 года, который показал, что 60% ИТ-лидеров активно используют ИИ на своих предприятиях, а 28% находятся на стадии изучения.

Согласно опросу Foundry, большинство ИТ-лидеров повышают квалификацию сотрудников в сфере ИИ (54%) и предоставляют пользователям инструменты ИИ (52%), тогда как 42% разрабатывают политику и руководящие принципы в отношении ИИ. Несмотря на это, технологические лидеры, исполнительные советники, консультанты по управлению и энтузиасты искусственного интеллекта сходятся во мнении, что топ-менеджмент сталкивается со многими проблемами при тестировании и внедрении генеративного искусственного интеллекта. Они также отмечают, что руководители высшего звена – как ведущие технологи в своих организациях - будут решать эти вопросы, когда компании будут определять свои стратегии генеративного ИИ.

Так какие же проблемы усложнят корпоративную стратегию использования искусственного интеллекта? Вот список из 20 основных проблем, которые формируют современные стратегии ИИ.

Рекомендуем прочитать: 12 норвежских министерств стали жертвами хакеров

Согласно различным сообщениям в прессе, некоторые известные компании сначала заблокировали инструменты генеративного ИИ, такие как ChatGPT, по разным причинам, в частности из-за беспокойства о защите собственных данных. Некоторые компании сняли свои запреты и разрешили ограниченное использование технологии; другие – нет.

Поскольку поставщики добавляют генеративный ИИ в свои предложения корпоративного программного обеспечения, а сотрудники тестируют технологию, ИТ-директора должны консультировать своих коллег относительно преимуществ и недостатков использования генеративного ИИ, а также потенциальных последствий его запрета или ограничения.

"Сейчас вопрос номер один – разрешать или нет" – говорит Мир Кашифуддин, руководитель практики по вопросам рисков и конфиденциальности данных в PwC в США. "Многие компании ведут дискуссии о том, блокировать или разрешать".

Это касается и топ-менеджеров в сфере технологий, поскольку сами ИТ-директора обсуждают, продвигать или сдерживать исследования искусственного интеллекта.

Компании, которые заблокировали использование искусственного интеллекта, обнаруживают, что некоторые сотрудники все еще тестируют его. Они также осознают, что им придется научиться использовать потенциал этой технологии или остаться позади.

Это заставляет организации искать наиболее непосредственные риски, связанные с внедрением пилотных проектов искусственного интеллекта.

"Работа ИТ-директора заключается в том, чтобы задавать вопросы о потенциальных сценариях. ИТ-директор должен говорить о рисках" – говорит Мэри Кармайкл, управляющий директор по консалтингу по рискам в компании Momentum Technology и член Рабочей группы по новым тенденциям и Консультативного комитета по вопросам рисков ISACA.

Кармайкл говорит, что перед руководителями стоит еще один важный вопрос, когда речь идет о таких инструментах, как ChatGPT: "В каком направлении вы сейчас будете направлять своих сотрудников с точки зрения технологий, которые являются бесплатными и доступными?".

Кармайкл рассказывает, что недавно она спросила руководителей, есть ли у них политика приемлемого использования, и лишь некоторые из них ответили, что создали ее, чтобы указать своим сотрудникам, что компания считает приемлемым.

"Работники уже спрашивают: "Должен ли я использовать этот инструмент? Когда я должен его использовать? На что мне следует обратить внимание? Но на данный момент ИТ-отдел, кажется, пытается догнать нас", - говорит Кармайкл. "Поэтому ИТ-директорам нужно подумать о корпоративном гене ИИ с контролем; им нужно подумать об установлении определенных правил".

Генеративный искусственный интеллект - это разрушительная технология, поэтому ИТ-директорам и их коллегам в совете директоров нужно подумать, станет ли их компания жертвой этой силы, и если да, то каким образом.

"Как генеративный искусственный интеллект влияет на вашу компанию? Как ChatGPT повлиял на вашу бизнес-модель, например?" – спрашивает Кармайкл, отмечая, что некоторые компании уже потеряли значительную рыночную стоимость перед лицом внезапной конкуренции со стороны генеративного искусственного интеллекта.

"Это проблема для ИТ-директоров. Некоторые из них ожидают, что благодаря этой технологии они смогут сэкономить расходы, но они также должны найти способы включить эту технологию [в продукты своей компании], чтобы усилить предложение", – добавляет Кармайкл. "Именно здесь ИТ-директорам необходимо стать осведомленными в этой технологии и предоставлять рекомендации и советы".

Как будто этих вызовов было недостаточно, руководители должны действовать быстро и управлять, когда все уже запущено и работает.

Дуглас Меррилл (Douglas Merrill), партнер консалтинговой компании McKinsey & Co., говорит, что ИТ-директора должны применять гибкие процессы к своей стратегии ИИ. "Вы должны учиться на ходу, но делать [итерации] безопасными и контролируемыми, а также сосредоточиться на управлении рисками" – объясняет он.

Поскольку ИТ-директора пытаются внедрить контроль и управление рисками в технологию, которая вызывает широкий интерес и все еще находится на стадии эксперимента, они делают это без предварительных рекомендаций и поддержки.

"Одна из особых проблем, с которой мы все сталкиваемся, заключается в том, что генеративный ИИ является действительно новой технологией, которая развивается очень быстро, поэтому существует не так много инструментов", - говорит Меррилл. Рекомендации по рискам для генеративного ИИ являются хрупкими и новыми, и не существует общепринятого "Вот как надо думать о хеджировании рисков". В конце концов они появятся, но пока что их нет".

Еще одна сфера, на которую следует обратить внимание ИТ-директорам, – это использование генеративного ИИ для дифференциации своих организаций.

ИТ-директорам следует сосредоточиться на том, "где они могут эффективно использовать генеративный ИИ. Это не молоток. Они ищут то, что возможно. И есть так много возможностей, которые должны быть напрямую согласованы с бизнес-стратегией" – говорит Фрэнсис Карамузис, вице-президент по аналитике исследовательской компании Gartner.

Технологические инновации не являются чем-то новым для ИТ-директоров, но искусственный интеллект действительно создает новые вызовы из-за скорости его развития, а также его мощности и сложности.

"ИТ-директорам придется изобретать, обучать и выполнять задачи совершенно по-другому, принимая во внимание скорость и гибкость решений" – добавляет Карамузис.

Исследовательская компания IDC в своем исследовании "Выводы относительно генеративного искусственного интеллекта от Enterprise Intelligence Services", опубликованном в мае 2023 года, обнаружила, что почти 70% покупателей услуг корпоративной аналитики рассматривают или активно работают над сценариями использования генеративного искусственного интеллекта.

Компаниям нужен способ собирать, анализировать и определять приоритетность идей по использованию технологии в пользу бизнеса.

"ИТ-директора должны в первую очередь создать четкую дорожную карту для внедрения генеративного ИИ. Независимо от того, идет ли речь о повышении производительности или других коммерческих выгодах, они должны согласовать свои цели со [всем топ-менеджментом], прежде чем выбирать технологии для реализации этой дорожной карты", – говорит Го Сер Йонг, руководитель отдела комплаенса в Advance.AI и член рабочей группы ISACA Emerging Trends Working Group.

Карамузис говорит, что ИТ-директора должны использовать свой предыдущий опыт в определении приоритетов для технологических инициатив и применять такую же дисциплину к идеям, связанным с искусственным интеллектом, чтобы гарантировать, что их организации инвестируют с умом.

В своем исследовании IDC обнаружила, что наиболее приоритетные варианты использования ИИ относятся к категориям управления знаниями, генерации кода, а также проектирования и разработки продуктов и услуг. Покупатели чаще всего соглашались с тем, что генеративный ИИ позволит их работникам сосредоточиться на более важных задачах. Покупатели чаще всего не соглашались с тем, что генеративный ИИ подвергнет их большему риску.

Опрос Foundry на тему ИИ показал, что ИТ-директора розничной торговли лидируют в определении вариантов использования (49%), за ними следуют ИТ-лидеры в производстве (42%), технологиях (42%) и финансовых услугах (32%).

Рекомендуем прочитать: Ограничит ли закон развитие искусственного интеллекта?

Компании могут внедрять генеративный ИИ в своих организациях тремя различными способами, и ИТ-директора решают, какой из них лучше всего подходит для них.

McKinsey разработала собственную концепцию, которая описывает различные типы приложений как "приемник", "формирователь" и "создатель".

Приемник использует то, что создал кто-то другой, используя возможности прямо из коробки. Формировщик формирует и адаптирует такие возможности в соответствии с собственными потребностями или собственными данными. Создатель – самый редкий из трех типов, как утверждают в McKinsey's Merrill – имеет наибольшую потребность в структуре и контроле, а потому строит собственные модели, которые отвечают его узкоспециализированным потребностям.

Независимо от того, является ли компания потребителем, формирователем или производителем, для эффективного использования генеративного ИИ ей понадобится современный технологический стек и политика обработки данных.

"Данные, облачные структуры, вычислительные сети и хранилища – это, безусловно, обязанности ИТ-директора" – говорит Карамузис, добавляя, что ИТ-директора также несут ответственность за выявление и устранение любых узких мест или барьеров в стеке технологий или данных, которые могут помешать их организациям достичь заявленных целей в сфере генеративного ИИ. "ИТ-директора – это те, кто создаст технологию, которая сделает это возможным", – добавляет он.

В середине весны 2023 года южнокорейская компания Samsung запретила своим сотрудникам использовать инструменты генеративного искусственного интеллекта и нейросеть для программирования после того, как обнаружила, что часть ее внутреннего исходного кода была загружена в ChatGPT. Другие компании обеспокоены тем, что их сотрудники делают то же самое, говорит Кашифуддин.

"Поскольку работники взаимодействуют с этими инструментами, компаниям необходимо убедиться, что они не вводят собственные данные, которые отправляются обратно в базовые модели", – добавляет Кашифуддин.

Директора ожидают от своих ИТ-директоров, а также менеджеров по управлению данными и менеджеров по вопросам конфиденциальности, что они будут принимать меры, разрабатывать политику управления, внедрять средства контроля и разворачивать инструменты мониторинга, чтобы гарантировать, что работники придерживаются приемлемых политик использования и не разглашают собственные данные и интеллектуальную собственность.

Еще один вопрос, с которым сталкиваются ИТ-директора, а также директора по вопросам данных, комплаенса, рисков и безопасности: как контролировать и гарантировать, что сотрудники не нарушают законодательство о конфиденциальности данных и лучшие практики защиты данных при использовании генеративного искусственного интеллекта.

"Когда вы передаете свои данные в искусственный интеллект, который контролируется кем-то другим, вы теряете контроль над этими данными" – предупреждает Карл Фроггетт, ИТ-директор компании Deep Instinct, создателя платформы кибербезопасности.

По словам экспертов, ИТ-директоров также просят разработать способы распознавания и аудита результатов генеративного ИИ, чтобы обеспечить точность, беспристрастность и отсутствие нарушений защищенной интеллектуальной собственности.

Как объясняет Кармайкл, "подотчетный и понятный ИИ – это следующий вызов, с которым придется иметь дело ИТ-директорам".

Правительства во всем мире обсуждают, стоит ли регулировать использование искусственного интеллекта, и если да, то каким образом. В то время как корпоративные юридические отделы и внешние консультанты помогут руководителям понять, что новые правила означают для них, ИТ-директора играют важную роль в обеспечении соответствия технологии искусственного интеллекта на предприятии любым новым правилам.

"ИТ-директора должны быть в курсе изменений нормативно-правовой базы, связанной с использованием ИИ, например, недавнего Закона Европейского Союза об искусственном интеллекте", – говорит Гох. "Соблюдение законов о защите данных, правил интеллектуальной собственности, отраслевых инструкций и этических стандартов имеет решающее значение. ИТ-директора должны тесно сотрудничать с юридическими командами, чтобы понять и решить любые правовые последствия, связанные с генеративным искусственным интеллектом".

Кашифуддин и др. отмечают, что ИТ-директора должны помогать своим организациям и самим работникам внедрять процедуры обеспечения качества, которые проверяют любые идеи, генерируемые ИИ. Это включает в себя внедрение контроля качества в ИТ для любого кода, который разработчики хотят использовать, добавляет Кашифуддин.

Последствия пренебрежения этим шагом могут быть значительными, как показывают некоторые широко разрекламированные примеры. Одним из ярких примеров является дело нью-йоркского адвоката, который столкнулся с судебным преследованием после того, как подал юридический документ, составленный с помощью ChatGPT, содержащий цитаты из судебных дел, выдуманных с помощью этой технологии.

Искусственный интеллект стремительно меняет спрос на ИТ-навыки и таланты, и сотрудники всей организации должны научиться работать с генеративными инструментами искусственного интеллекта.

В то же время, ИТ-персонал должен переквалифицироваться для работы с инструментами генеративного ИИ, чтобы выполнять свою работу и приобрести навыки, необходимые для поддержки технологии по мере ее использования в организации.

Еще одна сфера беспокойства ИТ-директоров – это то, как хакеры используют генеративный искусственный интеллект.

"Мы говорим о новом уровне изощренности [хакеров] в создании электронных писем и сообщений и обходе биометрических данных, поскольку генеративный искусственный интеллект приобретает индивидуальность, манеры и фразы, которые использовал бы реальный человек", – говорит Фроггетт, добавляя, что генеративный ИИ может генерировать фальшивые видео и звуки, которые выглядят аутентичными.

Такие изощренные атаки могут сделать существующие средства контроля безопасности, такие как голосовая аутентификация, устаревшими, что заставляет ИТ-директоров и директоров по информационной безопасности быстро находить альтернативы.

"Средства контроля, которые мы имели на месте, могут не сработать из-за того, что уже делает генеративный искусственный интеллект", – добавляет Фроггетт.

Как отмечает Го: "ИТ-директора должны оценить пробелы в навыках своих ИТ-отделов и обеспечить надлежащее обучение и ресурсы для понимания потребностей и эффективной работы с генеративным ИИ".

В отчете за март 2023 года Goldman Sachs подсчитал, что около двух третей нынешних рабочих мест "уязвимы до некоторой степени к автоматизации с помощью искусственного интеллекта, а генеративный ИИ может заменить до четверти нынешних рабочих мест". Другими словами, фирма заявила, что из-за автоматизации может быть потерян эквивалент 300 миллионов рабочих мест с полной занятостью.

"Существует много неопределенности. Люди задаются вопросом: "Как это повлияет на мою карьеру? Нужно ли мне переквалифицироваться?", – говорит Кармайкл.

"Как часть исполнительной команды, ИТ-директора должны работать над тем, чтобы вовлекать своих сотрудников и решать их проблемы. Искусственный интеллект создаст рабочие места – и, возможно, не только создаст, но и приведет к их потере" – добавляет он. Над этой дилеммой должны задуматься IT-директора, решая сложную проблему управления изменениями, связанными с искусственным интеллектом.

ИТ-директора будут среди руководителей, ответственных за то, чтобы провести свои организации через все изменения, которые принесет искусственный интеллект.

Кармайкл и др. утверждают, что ИТ-директора естественно подходят для этой работы; они развивали свои навыки в этой сфере в течение последнего десятилетия, проводя свои организации через цифровую трансформацию.

Однако некоторые утверждают, что руководство будущими изменениями будет отличаться от предыдущих сценариев управления изменениями, поскольку скорость внедрения и разрушительные последствия, которые приносит искусственный интеллект, могут затмить предыдущие технологические революции.

"Темпы застали всех врасплох, и теперь мы должны идти в ногу с ними", - говорит Кармайкл. "Вопрос заключается в том, как со всем этим хорошо справиться и уверенно двигаться вперед".

Очевидно, что ИТ-директор не в состоянии справиться со всеми этими вопросами в одиночку - да и не должен пытаться. Однако, будучи главным технологом во многих организациях, ИТ-директор, скорее всего, будет ключевым советником руководства относительно рисков и возможностей, которые несет с собой искусственный интеллект.

"ИТ-директор делает возможным или оснащает, выступает в роли фасилитатора, советника и исполнителя", - говорит Карамузис. "Поэтому сейчас роль ИТ-директора - это одна из неотъемлемых ролей в руководстве, которая помогает другим понять весь перечень вещей, которые необходимо сделать".