Разговор с М: человечество как демиург искусственного интеллекта, создающий для него правила игры и само устройство мира: этические вопросы про эксплуатацию/симбиоз с ИИ
ИИ можно копировать, а значит нельзя убить. Как это влияет на «жизнь» и «личность»
А что про дождевого червя?
См. также
Отношения берутся из невозможности выключить человека
Сейчас, конечно, это меняется (люди «строят отношения» с ИИ), но думаю, разница машина-человек всё равно останется. Потому что это не вполне отношения. Ты понимаешь, что ему можно reset сделать
Полагаю, что возможность делать Save-Load (например, в играх) сильно меняет отношение к серьёзности происходящего
Ссылка на оригинал
нельзя пытаться наделять ИИ признаками человека. Это создает ложное ощущение того, что это уже не машина, а что-то живое и чувствующее. Мустафа называет это SCAI — Seemingly Conscious AI, то есть AI, который кажется нам сознательным.
…
Сулейман описывает целое явление “psychosis risk” (риск психоза), когда люди начинают настолько верить в иллюзию сознательности ИИ, что могут развивать эмоциональную зависимость, верить в права и чувства модели.