(←) предыдущая запись ; следующая запись (→)
машинное_обучение, идея, образовательное, размышления
В тему тренировки чат-ботов ↑.
Гугловское подразделение jigsaw несколько лет назад выпустило инструмент Perspective для оценивания токсичности комментария (см. API и размеченный датасет комментариев). Они планировали использовать это, чтобы модерировать форумы.
Если честно, сомневаюсь, что модель была хоть куда-то внедрена. А сейчас она уже безнадёжно устарела.
Если я правильно помню, А.И. (школьник из моего класса) делал сходную систему, помогающую вежливо отвечать клиентам.
В далёком 2018-м, когда мы с Е. наткнулись на проект, я ещё не знал про GAN-ы (генеративно-состязательные нейросети; про них чуть ниже [* ↓]), но тут же придумал как использовать этот классификатор в злонамеренных целях.
Perspective умеет измерять степень токсичности комментария. Разработчики предполагали, что он должен использоваться для того, чтобы форсить более дружелюбное общение. Но… можно ведь делать и наоборот. Запретить пользователям писать нетоксичные сообщения. Ну а потом можно вводить ограничения: уровень токсичности комментария не больше такого-то, но и не ниже такого-то — и учиться таким образом отрабатывать навыки троллинга и дипломатии.
Если честно, я до сих пор считаю, что чат-бот для отработки разных коммуникативных стилей был клёвой идеей. Жаль, что я ленивая жопа и не реализовал его. Приходится отрабатывать на вас, дорогие читатели.
(1/3)