ВТБ и МГУ создали детекторы токсичности и галлюцинаций для ИИ-агентов

ВТБ и МГУ разработали детекторы для контроля ИИ-агентов. Первый проверяет запросы клиентов на токсичность, второй — ответы на галлюцинации. Детектор токсичности блокирует неэтичные сообщения и контент 18+.








