Компания OpenAI, создатель популярного чат-бота ChatGPT и генератора изображений Dall-E, работает над инструментом, способным с высокой точностью определять изображения, сгенерированные искусственным интеллектом. Об этом на конференции Wall Street Journal Tech Live заявила технический директор OpenAI Мира Мурати.
По ее словам, новый инструмент обладает надежностью в 99%. Сейчас его пока что тестируют. Дата публичного релиза пока не названа.
Насколько точен будет инструмент OpenAI?
Инструмент нацелен на обнаружение картинок, созданных генератором Dall-E 3. При этом не сообщается, сможет ли он распознавать картинки от других сервисов вроде Midjourney, Stable Diffusion и Adobe Firefly. Это ограничивает его потенциальную пользу.
Раньше компания уже запускала похожие инструменты. В начале 2023 года компания представила программу для распознавания статей, сгенерированных “Чат ГПТ”. Однако через несколько месяцев ее пришлось снять с публичного доступа из-за низкой точности.
Теперь OpenAI уверяет, что ее новая программа для распознавания картинок работает намного лучше. Остается надеяться, что на этот раз обещания оправдаются. Любой инструмент, способный выявлять сгенерированные картинки, был бы полезен для борьбы с дезинформацией.
OpenAI продолжает совершенствовать ChatGPT
На конференции в Калифорнии Мира Мурати и гендиректор OpenAI Сэм Альтман также затронули тему разработки ChatGPT следующего поколения.
Модель GPT-4, лежащая в основе нынешнего ChatGPT, подвержена "галлюцинациям" – она может сочинять выдуманную информацию. Как признала Мурати, в GPT-4 это не исправлено окончательно. Однако над устранением проблемы активно работают.
Хотя официального подтверждения пока нет, предполагается, что следующая модель получит название GPT-5. В июле OpenAI подала заявку на регистрацию товарного знака GPT-5.
Таким образом, несмотря на призывы приостановить разработку еще более мощных моделей, компания продолжает совершенствовать свои технологии. Хотя это несет определенные риски, OpenAI уверена, что преимущества перевешивают.
