Израильский стартап создал инструмент для выявления ботов и спама. Он также позволит проверить, не был ли текст, фото или видео сгенерирован искусственным интеллектом.
Израильский стартап Cyabra до сих пор занимался анализом угроз в социальных сетях. Он попал в заголовки газет в 2022 году, когда Илон Маск попросил его помочь проанализировать наличие ботов и спама в Twitter. Компания только что объявила, что делает доступным бесплатный инструмент под названием botbusters.ai, который может обнаруживать тексты, изображения, видео и фейковые профили, сгенерированные искусственным интеллектом.
"Botbusters.ai – это наш способ дать возможность людям и корпорациям по всему миру использовать бесплатное решение, чтобы увидеть, были ли текст, изображения и даже профили созданы человеком или компьютером", – сказал Дэн Брахми, исполнительный директор Cyabra, которого цитирует FOX Business. Брахми также перечислил три самых распространенных типа деятельности ботов, с которыми Стыкалась Cyabra. Это корпоративная имитация, боты, спонсируемые государством и предназначенные для достижения геополитических целей, а также боты, которые "как будто случайно создают хаос", чтобы отвлечь интернет-пользователей от важных вещей и событий. Брахми отметил, что часто создание ботов происходит по заказу государственных субъектов или иностранных правительств с целью распространения дезинформации или пропаганды: "Мы видим много геополитических штормов в Азиатско-Тихоокеанском регионе, немного в Европе, и, конечно, много в США. Это потому, что ставки чрезвычайно высоки" сказал он.
Корпорации и руководители, которые ими управляют, также иногда становятся мишенью для мошенников, которые используют инструменты искусственного интеллекта. "Мы являемся свидетелями того, что руководители выдают себя за других в огромных масштабах – от известных генеральных директоров до генеральных директоров из списка Fortune 2000 или других руководителей. Я могу сказать вам, что это настолько распространенное явление, что я не удивлюсь, если оно уже затронуло достаточно большую долю компаний", – утверждает Брахми. Хотя мошенничество, связанное с выдачей себя за руководителей компаний, пользуется большим спросом, некоторые мошенники нацелены на работников более низкого уровня, чтобы получить доступ к жизненно важной информации или данным. Существуют также мошенники, которые используют инструменты искусственного интеллекта, чтобы выдавать себя за представителей службы поддержки клиентов компаний, чтобы заманить своих жертв.
Мошенники также выдают себя за корпоративные аккаунты в социальных сетях. Хорошим примером этого стал случай с фармацевтической компанией Eli Lilly в конце 2022 года, когда фейковый аккаунт в Twitter разместил информацию о бесплатной раздаче инсулина. Это вызвало значительное ежедневное падение курса акций компании до того, как стало понятно, что информация была ложной.
Рекомендуем прочитать: Почему учителя не могут отследить, пользуются ли ученики ChatGPT?
