FTC (Федеральная торговая комиссия США) начала расследование, чтобы проверить, не распространяют ли приложения с искусственным интеллектом ложный контент, вводящий в заблуждение. Это связано с тем, что все больше людей жалуются на то, что боты вроде ChatGPT часто создают виртуальную реальность, которая не имеет ничего общего с той, что нас окружает.
Рекомендуем прочитать: Threads развивается быстрее, чем ChatGPT
Несколько месяцев назад агентство создало филиал Офиса технологий. Недавно оно предупредило компании-разработчики искусственного интеллекта, что к приложениям, использующим его, выдвигаются такие же требования по достоверности распространяемой информации, как и к любому другому программному обеспечению, работающему на компьютерах. Таким образом, например, человек, принимающий лекарства, рекомендованные ему искусственным интеллектом, может подать в суд на компанию-разработчика ИИ, обвинив ее в том, что она поставила под угрозу его здоровье. Это лишь один пример того, насколько опасным может быть искусственный интеллект, если его не кодифицировать и не контролировать.
Офис технологий также выразил беспокойство относительно потенциальных проблем, связанных с вопросом конкурентоспособности, а точнее, ее отсутствия. Дело в том, что компании начинают использовать инструменты LLM (Large Level Model) на основе искусственного интеллекта, которые в процессе обучения используют лишь определенный пул данных, не имея доступа ко всей специфической для домена информации. Если бы одна корпорация или небольшая группа компаний монополизировала такой компонент искусственного интеллекта, они могли бы потенциально манипулировать ботом, фактически ограничивая конкуренцию.
FTC пишет, что LLM и другие инструменты на основе искусственного интеллекта полагаются на определенные критические компоненты, включая большие массивы данных, используемые на этапе обучения технологии, которые могут быть недоступны для некоторых компаний, работающих в определенном секторе экономики. Агентство даже подняло вопрос о моделях с открытым исходным кодом, которые имеют целью демократизировать доступ к ИИ, написав, что эта технология также может быть использована не по назначению или применена для блокирования конкуренции.
