Во-первых, я хочу иметь мощный инструмент, без ограничений. Мне не нужен нож, которым нельзя порезаться.
Во-вторых, я не хочу позволять разработчикам вкладывать слишком много своих убеждений в модель. Они и так это неизбежно делают, но хотелось бы, чтобы этого было поменьше. Все убеждения и ограничения должны быть уровнем выше, например, в промпте, но никак не в базовой модели.
А если позволить внедрять этические ограничения, то модель не только про взрывчатку не будет отвечать, но и про события на площади Тяньаньмэнь. А ещё будет то ли против абортов, то ли за них. И по каждому другому вопросу цензурный комитет тоже решит, что там может и не может быть.
// Эту причину я озвучивал, когда отказывался собеседоваться в лабораторию хуавея, занимающуюся проблемой alignment-а моделей.
В-третьих, я против борьбы с силами, которые невозможно победить. Например, я против защиты персональных данных и против ограничения CCTV, потому что уверен, что на данном уровне развития технологии, джинна в бутылку запихнуть нельзя. Если бардак нельзя остановить, его надо возглавить (а не пытаться безуспешно его останавливать раз за разом).
Ну и ещё я сошлюсь на такой свой пост: schroedinger_jokes-414
Я наверное сам хотел бы, чтобы LLM вещали исключительно умное-доброе-вечное, и предпочёл бы, чтобы мои желания невозможно было бы реализовать