– Если же мы стоим на позициях социогуманитарных наук, то ответ на вопрос, эволюционирует ли человек, будет другой. Тут критерии могут быть связаны с нравственностью, с возможностью трансформации среды вокруг, с созданием совершенно нового типа объектов, – сказал Джозеф.
– В таком случае является ли человек единственным источником системы ценностей? Может ли он относиться к другим субъектам как к носителям некоторых ценностей? – спросил Хасан.
– Понятно, что искусственный интеллект содержит в какой-то мере сознание, которое не локализуется в физическом теле, – сказал Джозеф. – Но при этом нужно понимать, если мы признаем, что сети, в которые, к примеру, я включен, и которые вместе со мной осуществляют мыслительные процессы, – это часть моего расширенного сознания, то рассматривать меня, мое эго как действующего субъекта уже не так просто.
– То есть уже непонятно, кто здесь действует – я действую, или сеть действует мной, – бросил реплику Билл.
– Ключевая проблема, которая возникает, это не столько проблема замены сознания человека мыслящей технологической сетью, сколько проблема доказательства того, что человек плюс искусственный интеллект – это лучше, чем просто искусственный интеллект, – сказал Джозеф.
Тут же посыпались вопросы: а почему лучше? Где тогда находится человек? Этот мозг – это система каких-то его вычислений? Что тогда останется от человека, что есть «я»? Мозг?
– Мозг – это последняя надежда тех, кто хочет локализовать сознание на каком-то очень и очень надежном материальном носителе, – отвечал Джозеф. – Это ныне главная метафора для человеческого эго. В этих условиях мозг оказывается, как бы внешним, мы проводим некоторую границу между нами и нашим мозгом.
– Мы говорим: наш мозг влияет на нас. Но если мозг влияет на нас, значит, мы – это что-то другое? – с иронией спросил Билл.
– Мой мозг – это «Я». Мозг служит идентификационным признаком «Я». Об этом вы все знаете, – сказал Джозеф и сделав небольшую паузу продолжил: – Вот мы мечтаем о создании интерфейса «мозг плюс суперкомпьютер». Однако, к сожалению, пока еще с трудом понимаем не только, где будет «мозг в контейнере», то есть «я» «аватара» и где будет искусственный интеллект, но и какими будут результаты такого интерфейса – «мозг плюс искусственный интеллект»?