(←) предыдущая запись ; следующая запись (→)
Если говорить с немного более философской точки зрения, прогресс часто идёт через противостояние средств защиты и нападения. Оружие и броня, бактерии и антибиотики, вирусы и антивирусы, гипотезы и контрпримеры.
GAN-ы наглядно показывают, что генератор и дискриминатор всегда стимулируют развитие друг друга. Они друг для друга являются полигонами с бесконечным числом упражнений. Поэтому любая технология искусственного интеллекта будет нести в себе собственную противоположность.
Например, если вы научитесь отличать ответы, данные человеком и ответы, данные чат-гпт, вы сильно поможете разработчикам чат-гпт, поскольку они несколькими простыми действиями добавят ваш классификатор-дискриминатор в процесс обучения модели и улучшат её качество так, чтобы новая версия выдавала текст, который вашим классификатором будет не отличить от человеческого.
Генератор качественных фейковых картинок — идеальный полигон для инструментов борьбы с фейками.
И уж конечно появление инструмента для опознавания токсичных текстов почти неизбежно влечёт за собой инструмент их создания.
(Это я так снимаю с себя ответственность за создание токсогенератора)
Эта оппозиция создаёт этическую проблему. Представьте, что вы разработчик вакцины от эпидемии. Вы точно знаете, что если ваша вакцина сработает, то благодаря ей на смену текущей болезни очень скоро придёт новая, куда более мощная, и обходящая защиту вашей вакцины. Следует ли на этом основании свернуть разработку или продолжать повышать ставки и входить во всё более крутые виражи?
(3/3)