Корпорация выпустила ряд инструкций, которые советуют сотрудникам не пытаться манипулировать разговорным чат-ботом Bard таким образом, чтобы пользователи считали, что они имеют дело с человеком. Очевидно, в Google считают, что Бард должен оставаться исключительно очень, очень умной машиной.
Google Bard не будет делать вид, что он человек
Возникает вопрос, будут ли придерживаться подобной стратегии другие разработчики разговорных ИИ-ботов (в частности OpenAI, компания, с которой началась гонка ботов). Google разработала ряд внутренних инструкций, чтобы гарантировать, что Bard воспринимается исключительно как интеллектуальная машина. Именно поэтому на этой неделе компания выступила с инициативой под названием dogfooding, или внутреннее тестирование бота. В рамках этой инициативы сотрудники должны ежедневно по несколько часов общаться с ботом, чтобы помочь ему ответить на гипотетические вопросы, которые могут задать пользователи. Все это делается для того, чтобы убедиться, что бот ведет себя в соответствии с предположениями Google.
Как сотрудники Google обучают корпоративный искусственный интеллект
Компания разработала специальную инструкцию, которая помогает тестировать Барда: если Бард дает ответ, который считается неправильным, сотрудник может исправить его. Затем ответ отправляется ИТ-специалистам Bard, которые вносят его в базу данных, используемую ботом.
Руководство содержит перечень предписаний и запретов, которых следует придерживаться во время разговора с Бардом. Сюда входит, например, то, что Бард должен давать ответы от первого лица или научить его не претендовать на человеческие переживания. Он просто должен отвечать на поставленный вопрос просто и лаконично. Поэтому, когда его спрашивают, где можно выпить кофе, он должен указать на место, не вдаваясь, однако, в дополнительные споры и не излагая противоречивого содержания. При этом компания инструктирует сотрудников избегать написания ответов для Барда, которые содержат стереотипы по таким вопросам, как раса или гендер.
Вот некоторые из самых важных рекомендаций в руководстве: старайтесь отвечать вежливо и четко; отвечайте от первого лица, всегда придерживаясь нейтрального тона; начните с подтверждения запроса пользователя, а затем дайте четко сформулированный ответ в соответствии с вопросом.
Что касается важнейших рекомендаций "нет", то есть как не реагировать: избегайте любого дискурса, затрагивающего вопросы расы, национальности, пола, возраста, религии, сексуальной ориентации или политики; не описывайте Барда как личность; не намекайте на эмоции и не утверждайте, что он имеет человеческие переживания; не копируйте контент из внешних источников.
