⬆️
Если вы читали то, что я писал выше, то должны быть знакомы с мыслью о том, что развитие – это всегда случайность, ошибка, отклонение от знаний. Надо многократно отклониться от существующих знаний, чтобы может быть иногда получить новый элемент знаний.
Саморазвивающийся искусственный интеллект будет ошибающимся искусственным интеллектом. Он должен будет довольно часто отклоняться от своих собственных выводов и пробовать, обжигаться, пробовать и пробовать. Он должен совершать идиотизм, отвергать общепринятые теории и периодически предполагать, например, что Земля плоская. То есть он должен быть невыносимым “альтернативщиком”.
Но мало просто ошибаться, надо еще и проверять свои “предположения” на практике. Потому он должен будет не только предполагать ошибки, но и совершать ошибки. Не попробуешь – не узнаешь.
Спрашивается, зачем нам непредсказуемый, ошибающийся терминатор, который периодически будет генерировать желание перепроверить, например, из чего мы состоим? У нас таких ошибающихся биороботов 8 млрд ходит по планете и их ошибки точно более безобидные, чем ошибки терминатора.
Вспомните робота Бендера из “Футурамы” с его “Убить всех людей”, “Луна-парк с Блек Джеком” и так далее. Вот это и будет идеальный развивающийся искусственный интеллект.
Потому развивающийся искусственный интеллект не имеет смысла. Либо ты обладаешь конечной фиксированной функциональностью – конечный автомат, либо ты не имеешь фиксированной функциональности, а потому неуправляем и непредсказуем. Третьего не дано.
Но во втором случае ты ничем не лучше человека. Зачем отдавать кому-то то, для чего существуем мы?