Компания Facebook уже несколько лет занимается разработкой методов предотвращения правонарушений на своей платформе. Недавно компания запустила тестирование нового проекта - параллельной версии соцсети, основанной на настоящем коде Facebook, которая населена ботами. Искусственный интеллект имитирует “плохое” поведение людей в сети: боты ругаются, продают запрещенные товары и публикуют запрещенный контент. Разработчики, анализируя такое поведение ищут способы, как научить алгоритмы эффективнее справляться с такими действиями пользователей.
Тестовая среда получила название Web-Enabled Simulation (WES). Исследователи отмечают, что у WES есть три ключевые особенности: машинное обучение для тренировки ботов, используемое для максимальной приближенности к действиям реальных людей, автоматизация взаимодействия ботов в крупных масштабах - до миллионов и функционирование ботов в условиях текущего состояния социальной сети, что дает возможность взаимодействия не только внутри сгенерированного системой контента, но и внутри реального контента Facebook, однако при этом тестовое поле отделено от реальных пользователей.
Руководитель ИИ-подразделения компании в Лондоне отметил, что система работает по “жизненной модели”, когда мошенники начинают изучать дружественные связи жертвы: для моделирования такого поведения внутри тестовой среды были созданы группы “невиновных” и “плохих” ботов. Боты используют Facebook как обычные люди: посещают страницы, задают поисковые параметры, а разработчики следят за соблюдением мер безопасности и возможных способов обхода системы безопасности.
В компании надеются, что в ходе тестирования будут выявлены поведенческие шаблоны, которые не позволяют людям нарушать стандарты социальной сети, а также будут разработаны алгоритмы для работы системы без участия человека.