(←) предыдущая запись ; следующая запись (→)
Недавно участвовал в споре: управляем ли мы развитием технологий или их развитие нам неподконтрольно?
Можем ли мы, например, договориться о приостановке исследований ИИ (как недавно предложила кучка богатых жуков), чтобы не допустить порабощения человечества искусственным интеллектом и последствиями его использования?
Некоторые исследователи ИИ полагают, что мы не получим восстания машин просто потому что не будем машине давать сферу целеполагания и эмоций.
Мне кажется, это очень сомнительное утверждение.
Если вы не делаете таких исследований, это не значит, что их не делают в соседней лаборатории.
Мы давно не живём в мире, где на всю планету тысяча исследователей, и все они могут о чём-то договориться. Наш мир очень многоакторный, а значит всегда найдётся кто-то несогласный. Или тот, с кем не вышли на контакт, и кто даже не знал о том, что человечество о чём-то там договорилось.
Если лично вы отказываетесь разрабатывать опасную технологию, это факт вашей и только вашей биографии.
Легко можно представить себе ситуацию, когда никто не знает создателя технологии и никак не может на неё и него повлиять.
Посмотрите на биткойн.
Искусственный интеллект это далеко не ядерное оружие, не космическая программа и не большой адронный коллайдер. Разработка ИИ совершенно не требует ресурсов масштаба крупного государства. Этим может заниматься небольшой стартап, живущий в гараже, или даже одиночный исследователь. Разумеется, пользуясь общедоступными наработками тысяч других исследователей и организаций.
И это не единственная область, переживающая такую демократизацию.
Электроника стала дешёвой. 3D-печать сделала подъёмным малосерийное производство. Генетические модификации технически может проводить школьник; это дорогого, но не запретительно дорого.
Я уверен, что обуздать технологический прогресс мы не можем. А потому не должны даже пытаться. Если бардак не можешь остановить, его нужно возглавить.
Единственный способ не допустить восстания машин заключается не в том, чтобы не создавать «Терминатора», а в том, чтобы сделать его как можно скорее, и получить возможность изучать эту новую технологию.
Желательно сделать до того как его сделает кто-то с пониженным уровнем социальной ответственности.