Рискованная, незрелая и полная перспектив технология генеративного искусственного интеллекта заставляет технологических лидеров оценивать вызовы на многих фронтах и в режиме реального времени.
Генеративный искусственный интеллект считается одним из величайших технологических прорывов нашего времени. Выпуск ChatGPT от OpenAI породил тысячи заголовков в средствах массовой информации, что привело к беспрецедентному лихорадочному интересу со стороны многих технологических гигантов. Уже несколько месяцев подряд искусственный интеллект является горячей темой и главной темой для обсуждения на технологических конференциях по всему миру. Однако, как и в случае с любой большой новой волной, существует риск того, что некогда перспективные проекты будут смыты, а также очевидные и очевидные проблемы с управлением, качеством и безопасностью. Чтобы снять пену, CIO.com обратился к ряду ИТ-лидеров и экспертов с просьбой поделиться своими мыслями о том, где мы находимся с генеративным искусственным интеллектом, их надеждами и опасениями.
Какова ситуация с генеративным искусственным интеллектом на данный момент?
Известный британский ИТ-босс Пол Коби, ныне ИТ-директор семейного девелопера Persimmon Homes, видел, как появляются и исчезают многие тренды, но оптимистично настроен в отношении генеративного искусственного интеллекта, несмотря на то, что он впервые появился только в ноябре 2022 года. "Я считаю, что генеративный ИИ меняет правила игры на фундаментальном уровне. Я был на конференции Gartner в США, где генеративный ИИ назвали "третьей цифровой революцией" после мейнфреймов и интернета. Влияние действительно может быть настолько глубоким, потому что у нас есть инструмент, который можно применять в широком спектре случаев использования, от написания и проектирования продуктов до визуализации, проверки кода и так далее", – говорит он.
Другой опытный ИТ-лидер, Дэвид Айвелл, директор по продуктам и технологиям в компании Team Teach, занимающейся тренингами по управлению поведением, уже использует возможности генеративного искусственного интеллекта. "Генеративный ИИ является ключевой частью нашей бизнес-стратегии, способствующей росту благодаря процессам на основе ИИ, которые уже работают в производстве", – говорит он. "С середины прошлого года мы анализировали потенциальное влияние, возможности и риски, связанные со скоростью инноваций в этой области, а также разработали политику и внедрили меры для минимизации рисков. В общем, мы видим в этом огромные возможности. Мы провели семинары с каждым отделом нашей компании, обучая их, как ускорить инновации в этой сфере, провели мозговой штурм относительно возможностей и рисков. Мы отобрали и разработали потенциальные варианты подтверждения концепции и смоделировали влияние на прибыль, и одна концепция уже прошла через нашу инновационную лабораторию и была запущена в производство".
Джон Коллинз из аналитической компании GigaOm и автор книги "Технологический сад: как достичь устойчивого соответствия между ИТ и бизнесом" (The Technology Garden: Cultivating Sustainable IT-Business Alignment) является как наблюдателем рынка, так и его пользователем. "Мы тестируем ChatGPT на индивидуальном уровне. Потенциал очень положительный и влиятельный, особенно как инструмент исследования или дающий начальный, хотя и полностью сформированный ответ. Однако пока неясно, как генеративный ИИ заменит, а не усилит информационное взаимодействие человека с окружающим миром. С точки зрения дизайна, такие инструменты являются более привлекательными", – говорит он.
Нил Уорд-Даттон (Neil Ward-Dutton), вице-президент IDC по европейским практикам ИИ и интеллектуальной автоматизации процессов, предполагает, что использование генеративного ИИ является довольно популярной тенденцией, но бизнес-стратегия может отставать от него. "Генеративный ИИ имеет колоссальный потенциал для влияния на многие сферы бизнеса. В опросе IDC, проведенном в марте 2023 года. 21% респондентов заявили, что уже инвестируют в генеративный ИИ в этом году, а еще 55% изучают потенциальные варианты использования. "В целом мы видим небольшое количество организаций, которые используют генеративный ИИ на основе стратегии или плана, сформированного четкими принципами и большим количеством восходящих экспериментов, но это почти всегда происходит в стратегическом вакууме", – говорит он.
Что работает, а что нет?
Итак, если проекты уже начаты, какие ощущения относительно того, где и как генеративный ИИ работает лучше всего? "Лучшая практика – это, несомненно, межфункциональное сотрудничество, "попробуй, прежде чем покупать" и учиться на собственном опыте", – говорит Марк О'Брайен, ИТ-директор компании Medica Group, предоставляющей услуги в области радиологии. "По моему опыту, алгоритмы авторитетных компаний делают то, что написано на упаковке, но что действительно имеет значение – это место в рабочем процессе", – добавляет он.
Айвелл из Team Teach, с другой стороны, считает, что компании могут получить быстрый старт, используя инструменты, встроенные в приложения и пакеты. "Одна из ключевых и непосредственных возможностей генеративного ИИ заключается в том, что он уже встроен в некоторые инструменты, которые мы уже используем, будь то Power BI, Adobe или более специфические отраслевые приложения, – говорит он. "Чтобы воспользоваться ими, требуется внутреннее открытие или анализ этих новых функций, понимание того, как мы будем их использовать, и, что самое главное, обучение наших сотрудников пользоваться новыми функциями. Люди склонны использовать инструменты так, как они всегда их использовали, а внедрение новых функций может быть медленным, поэтому нам нужно ускорить этот процесс".
Коллинз из GigaOm является сторонником популярной теории "начинай с малого".
"Управление должно быть на первом месте, учитывая, что ответы, предложенные решениями генеративного ИИ, связаны с рисками и предостережениями. По опыту мы знаем, что текстовые ответы могут быть неправильными, обманчивыми или неполными, а ответы на основе кода могут быть ошибочными или несовершенными. Начинать надо с малого, учитывая, что успех с инструментами, по крайней мере сейчас, часто сводится к способности создавать хорошо сформулированные вопросы", – говорит он.
Уорд-Даттон и IDC соглашаются с ним и добавляют еще пять советов: сосредоточьтесь на ценности и функциональности, найдите конкретные случаи использования, поймите ограничения, учтите влияние на рабочие места и рабочие процессы, а также управляйте рисками, такими как безопасность, конфиденциальность, приватность и качество.
Препятствия и проблемы
Безопасность, предвзятость, точность и галлюцинации продолжают оставаться постоянными проблемами ИИ. Джон Коссон, руководитель отдела информационных технологий и CISO в компании по управлению капиталом JM Finn, вспоминает, как он попросил ChatGPT предоставить ему собственную биографию. Система перечислила лишь около 70% его резюме и просто выдала период работы в известном банке. "Мы должны понимать, где он может быть чрезвычайно мощным и где он может нам помочь, но быть осторожными, чтобы сохранить человеческий контроль. Он облегчил мне жизнь, потому что позволяет писать документы и обогащать их, но если вы полагаетесь на этого зверя, он может вас укусить. Мы используем его выборочно в тестах, чтобы увидеть его силу, но он находится под пристальным наблюдением, и мы не будем ничего внедрять, если это приведет к неблагоприятным решениям", – объясняет он.
О'Брайен из Medica также выступает с предупреждением. "В сфере здравоохранения регуляторная среда и коммерческие рамки на годы отстают от технологий, – говорит он. "Это делает почти невозможным монетизацию, а следовательно, и финансирование внедрения и использования алгоритмов. Это касается как государственного, так и независимого секторов. Однако я верю, что как только эти барьеры будут преодолены, развертывание системы, основанной на выгодах, будет быстрым". Коби добавляет, что незрелость нормативно-правовой базы для использования генеративного искусственного интеллекта и больших языковых моделей (LLM) требует тщательного рассмотрения, так же как и склонность нынешних программ к галлюцинациям. "Поэтому на этом этапе важно, чтобы любое использование было проверено кем-то из экспертов. Переход от PoC к массовому внедрению нужно тщательно контролировать".
Айвелл добавляет, что генеративный ИИ может создать нежелательную конкурентную динамику. По его словам, "в рамках нашей подготовки к стратегии генеративного ИИ важно понимать, где эта технология может позволить конкурентам или стартапам использовать ее для атаки на нашу долю рынка с помощью новых инструментов, которые позволят быстрее выводить на рынок и более дешевые продукты или услуги. Поэтому нужно помнить о многих вещах – не только о том, как мы можем ее использовать, но и о том, как она начинает использоваться как угроза".
Что касается риска интеллектуальной собственности, Уорд-Даттон из IDC говорит, что интеллектуальная собственность организации может утечь в общественное достояние, если она не будет осторожной при использовании общедоступных генерирующих сервисов ИИ. "Некоторые поставщики систем сталкиваются с судебными исками из-за того, что они обучали свои системы на данных и контенте, не получив разрешения от оригинальных создателей", – говорит он, добавляя, что затраты также могут быть непомерно высокими, поскольку основная технология, лежащая в основе современных систем генеративного ИИ, является очень дорогостоящей для обучения.
В поисках лучших сценариев использования
Существуют разные мнения относительно того, где генеративный ИИ будет наиболее эффективным и заменит ли искусственный интеллект программистов и графических дизайнеров. Коллинз указывает на исследования и дизайн: "Вполне разумно, что проблемы с созданием функционального веб-сайта с нуля должны исчезнуть, как и другие сферы, которые уже созрели для автоматизации". О'Брайен добавляет, что это все, что производит контент для человеческого потребления, где регулирование является низким, а ценообразование может финансировать алгоритм.
Уорд-Даттон из IDC говорит, что панель клиентов аналитической компании указывает на три основных кластера: улучшение опыта клиентов и сотрудников; усиление управления знаниями; и ускорение доставки программного обеспечения. Он прогнозирует, что со временем к ним присоединятся корпоративные коммуникации (включая контакт-центры); сотрудничество и обмен знаниями; управление контентом; а также дизайн, исследования и творческая деятельность.
Хотя об этом еще рано говорить, Коби считает, что первые успехи будут заключаться в том, что люди смогут работать гораздо продуктивнее, используя генеративный ИИ для создания первых черновиков, а затем используя их как основу. "Это, вероятно, будет касаться многих сфер и потребует новых навыков, чтобы задавать правильные запросы", – говорит он.
Айвелл соглашается относительно сфер контента, генерации кода и обслуживания клиентов, но говорит, что больше всего его волнуют исследовательские возможности.
"ИИ может анализировать большие объемы данных в текстовой форме для создания новых форм, сводок и анализа наборов данных, – говорит он. "Он также может обеспечить анализ больших массивов данных для получения ранее недоступной информации на уровне предприятия, например, понимание поведенческих моделей и создание инсайтов, которые мы можем использовать для создания новых продуктов".
Коссон из JM Finn, блогер-энтузиаст, говорит, что текстовый и графический контент с помощью таких инструментов, как Midjourney, является очевидной возможностью в ближайшем будущем. Он говорит, что это уже мощный инструмент для блогов, и многие люди будут использовать его в качестве фреймворка. Мы не хотим потерять элемент человеческого творчества, но вы можете применить элементы человеческого надзора и предоставить некоторые уникальные элементы. Недостатки – потеря работы для маркетологов и копирайтеров, но будут созданы новые рабочие места.
Как насчет троянского коня?
Некоторые наблюдатели считают, что генеративный ИИ может стать пионером в более широком применении искусственного интеллекта и машинного обучения. Уорд-Даттон из IDC полна энтузиазма. "Всего за несколько месяцев генеративный искусственный интеллект одновременно захватил внимание, воображение и беспокойство технологических и бизнес-лидеров по всему миру" – говорит он. "Мы считаем, что генеративный искусственный интеллект – это освободительная технология, которая откроет новую эру вычислений – эру искусственного интеллекта повсеместно, которая полностью трансформирует наши отношения с данными и то, как мы извлекаем ценность из структурированных и неструктурированных данных. Быстрое внедрение генеративного искусственного интеллекта перемещает ИИ из развивающегося сегмента программного обеспечения в стек и превращает его в устанавливаемую на болтах технологию, которая лежит в основе трансформации платформы".
Однако ИТ-директора отмечают важность того, чтобы роботы работали в тандеме с людьми. "Искусственный интеллект работает лучше всего, когда он сотрудничает с людьми, – считает Коссон. "Человеческий мозг все еще чего-то стоит. Эмпатия и человечность важны, и нам нужно выяснить, как искусственный интеллект дополняет и сочетает их".
