Механизмы сознания
Евгений Корниенко
Быстрая адаптация требует способности предвидеть, а мотивом адаптации служат жизненные потребности организма. Искусственное сознание развивается из этих же свойств. Цель исследования: конструктивный поиск алгоритма сознания. Этюд "Бабочка и цветок" демонстрирует основы работы сознания.
Эта работа в основном была сделана в 1997 году. Я хотел разобраться, как работает сознание, используя конструктивный подход: идея считается достойной внимания, только если она подкреплена детальным алгоритмом, который должен работать уже сегодня, а не в неопределённом будущем.
В результате проработки и отбраковки многочисленных тупиковых идей пришлось отказаться от применения таких признанных инструментов, как нейронные сети и семантический анализ. Первоначальное сознание не требует (и не может возникнуть из современных искусственных) нейронных сетей, а язык появляется на поздних стадиях развития сознания. Вместе с тем, я считаю эти направления технически очень важными. После того, как построена активная система, способная обучаться и накапливать полезный опыт, её восприятие мира может быть значительно улучшено применением систем распознавания образов, основанных на нейронных сетях, а её разумность может быть повышена путём обучения с применением обоснованных семантических структур для передачи знаний. В моём алгоритме сознания возникают и развиваются структуры, похожие на нейронные сети, и ёмкие команды, похожие на слова.
Сознание возникает у животных как одно из средств, улучшающее их адаптацию к окружающей среде. Быстрая (по сравнению со временем жизни животного) адаптация требует способности предвидеть, а мотивом адаптации служат биологические жизненные потребности организма. Искусственная система, обладающая такими свойствами, тоже приобретает сознание.
В этой статье я стараюсь рассказать о работе сознания в "функциональном" стиле. Читатели с тренированным системным мышлением увидят за этим описанием взаимодействие объектов, которое может быть запрограммировано. Малая ресурсоёмкость алгоритма наводит меня на мысль, что весьма высокий уровень сознания, вплоть до сознания млекопитающих, может быть воплощён сегодня. Это послужило поводом написать вступительную статью "Опасно разумен".
Я недостаточно знаком с мировым опытом в области искусственного интеллекта, не претендую на новое слово, и заранее извиняюсь за повторение уже известных идей без соответствующих ссылок.
Алгоритм сознания, который я демонстрирую в этюде "бабочка и цветок", запоминает, структурирует, использует опыт и пытается удовлетворить свои желания. Он может быть встроен как в эфемерное существо на экране, так и в игрушечного робота. Но уровень его сознания, достигаемый без специального обучения, не превышает сознания селёдки. В результате обучения, например, различных игр, этот уровень может сравниться с сознанием мыши или даже кошки. Я уделял основное внимание "чистому" самообучающемуся сознанию, и пока ещё не разработал средств интерактивного обучения. В используемом алгоритме важен не столько мозг, сколько система взаимодействия с внешним миром.
Что такое сознание?
Как устроено сознание? Какие процессы, механизмы, взаимодействующие объекты требуются, чтобы возникло сознание и осознание себя? Что нужно для изготовления не модели сознания, а просто сознания?
Обычно слово сознание применяется, как характеристика отдельного существа. Оно может "потерять сознание". А слово разум означает принципиальную способность быть сознательным. Например, "человек разумный". Есть и другие толкования. Но я не буду больше останавливаться на словах. Только на том, почему возможно сознание и как оно работает.
Неизвестно, как доказать, что человек думает.
Уверенность в том, что люди думают, основана на опыте и убеждённости в собственном сознании, а не на измерениях и логических выводах из них. Вот почему науке трудно подступиться к глубокому изучению сознания. Мы можем изучать мозг, нейроны, языки, поведение, но не сознание само по себе.
Мы наблюдаем не разум, а разумное поведение.
Раз уж мы не можем это точно доказать, то будем субъективно судить о наличии сознания у некоторого объекта по его поведению. При этом можно принять какое-то поведение за сознательное, а впоследствии выяснить, что это была ошибка. Но более надёжного способа у нас нет, и не будем терять время на его установление, если только это не окажется критичным для ответа на поставленные вопросы.
Сущность субъекта субъективна.
Человек относится к себе слишком предвзято. И хотя я считаю, что могу сделать полезные выводы о природе сознания на основании поведения людей, но я также уверен, что эти аргументы не убедительны (для людей). Поэтому будем рассматривать сознание других животных.
Поведение животного управляется его нервной системой.
Обычно, чем больше мозг животного, тем разумнее поведение этого животного. Нервная система, как и другие органы и системы организма, изобретена природой как одно из средств, обеспечивающих выживание вида. Развитие нервной системы и увеличение централизованного мозга произошло тоже в результате эволюционной борьбы за выживание. Но есть такие формы жизни, которые выживают и без нервной системы, например, растения.
Растения не живут, а выживают.
Сравним индивидуальное поведение растения и животного. Что, собственно, в их поведении способствует выживанию вида? Само слово поведение плохо подходит к растению. Растения проживают свой век без заметного проявления индивидуальных свойств. Выживаемость одного растения заключается в том, что оно способно вынести неблагоприятные условия, которые могут наступить в какой-то период жизни растения. Приспособляемость вида растений к изменяющимся условиям обеспечивается тем, что растения, которые плохо приспособлены к данным условиям, не выживают и не передают свои неудачные признаки потомству.
Животные способны улучшить свою жизнь.
Совершенно иначе относятся к неблагоприятным условиям животные, например, кошки и мышки. Они активно пытаются найти выход из положения. Собственно, это я и называю поведением. Поведение - это достаточно быстрая реакция в ответ на изменяющиеся внешние условия. Если плохие условия сохраняются долго, то кошка пытается приспособиться к ним. Она ищет правильное поведение в новой для неё обстановке. Но если все попытки улучшить ситуацию оказываются безнадёжными, то кошке, как и растению, остаётся только надеяться и терпеть.
Сложное поведение животных является проявлением условных и врождённых рефлексов. Это справедливо как для простых животных, вроде улитки, так и для наиболее смышлёных, вроде собаки. В отличие от растений, животные, имеющие нервную систему, способны приобретать условные, генетически не запрограммированные рефлексы, то есть обучаться.
Животные могут найти новое выгодное (то есть разумное?) поведение.
В некоторых случаях поведение, основанное на приобретённых рефлексах, настолько "разумно", что некоторые, например я, считают его разумным без кавычек. Является ли это поведение проявлением "настоящего" разума или лишь изощрённой адаптацией живого организма к меняющемуся миру, неизвестно, так как мы можем судить о разуме только по поведению, и не имеем конструктивного "индикатора наличия разума". А чем, если не адаптацией к миру вплоть до изменения мира по своим потребностям, является поведение человека?
Итак, условившись судить о разуме по поведению, мы можем признать два важных факта.
Суждение о наличии разума субъективно, вплоть до того, что некоторые люди считают поведение некоторых своих соплеменников несознательным.
Можно ввести субъективную шкалу разумности. Например, улитка, кошка и человек перечислены здесь в порядке увеличения разумности.
Не исключено, что разум начинается не с самого простейшего уровня организации нервной системы, а "возникает" при достаточном её развитии. Однако, пока нам не ясно, что такое разум, и не ясен механизм такого возникновения, будем считать, что все существа с нервной системой разумны. В частности, самые простые существа могут иметь "нулевую" или "исчезающе малую" разумность. Зато при таком подходе мы можем сравнить поведение многих животных, чтобы найти, что же именно в поведении данного животного кажется нам разумным. Это должны быть такие признаки, которые выявляются у всех без исключения животных. Явно разумность заключается не в том, что существо питается и размножается, потому что подобные признаки есть и у растений, которые, судя по отсутствию поведения, разумом не обладают.
Такие неплохие определения сознания, как способность к достижению цели, или к нахождению решения, или к принятию решения, нам тоже не подходят, так как они не конструктивны, в частности, не связаны однозначно с наблюдаемым поведением. "Цель" и "решение" сами определяются через сознание. Способность к общению с себе подобными, и формы такого общения "более наблюдаемы", но часто их трудно отличить от физического взаимодействия. Пример: перенос пыльцы.
По-моему, хорошим наблюдаемым критерием разумности является способность активно приспосабливаться к меняющимся окружающим условиям, то есть способность обучаться на основе своего опыта.
Самообучение - признак сознания.
Сознание - это внутреннее свойство, творческий мотор самообучающегося организма.
Начальное сознание возникает при такой организации нервной системы, которая обеспечивает возможность обучаться. Это ещё не то самосознание, которое заставляет вас уступить место старушке. Конструктивность этого определения состоит в том, что оно не ограничивает средства для изготовления "творческого мотора". Изобретите и создайте устройство, способное самообучаться - и оно получит сознание. Найдите способность к самообучению у робота, и этим будет доказано, что он обладает сознанием.
Вместо слова "самообучение" я иногда использую более широкое понятие "адаптация". Если существо самостоятельно находит новое поведение в новых условиях, причём никто не учил его этому поведению, то это существо способно к адаптации (к самообучению). Изобретение нового поведения - признак творчества, а творчество - признак сознания.
Человек вооружённый
Человек, снабжённый современными техническими средствами (книгами, автомобилями, оружием), способен выжить в более широком диапазоне внешних условий. Он лучше адаптирован к миру, чем человек, как живое существо. В соответствии с таким определением, можно считать, что сознание цивилизованного человека продолжает развиваться, хотя сознание "биологического" человека, может быть, имеет пределы, которые уже достигнуты, судя по тому, что нам приходится интенсивно учиться всю жизнь.
Разумность пропорциональна способности к адаптации.
Большой потенциал адаптации хорошо виден из такого мысленного эксперимента. Представим себе существо с максимально развитой адаптацией. Пусть это существо вынуждено приспосабливаться к человеческой культуре. И оно научилось играть в шахматы, конструировать космические ракеты и сочинять изысканные стихи. Кто теперь откажет ему в разумности!
Поэтому способности живого существа к адаптации следует считать проявлениями его сознания. И каждый вправе субъективно оценивать степень развития этого сознания.
Осознавание себя
"Начальное" сознание не гарантирует осознавания. Осознавание - это такой уровень развития сознания, при котором субъект отличает себя от других объектов.
Осознавание себя – главный общепризнанный признак сознания. Однако это лишь частный случай осознавания "внешнего" мира. Мы воспринимаем внешний мир в виде различных качеств, которые отражают физические параметры природных явлений, регистрируемые нашими органами чувств. Мы осознаём не своё сознание, а свои ощущения объектного мира и свои мысли, представимые в виде образов из объектного мира, то есть в виде образов ощущений. Суждение о собственном сознании выводится из наблюдения своего поведения. Поэтому проблема осознавания себя сводится к проблеме осознавания своих ощущений.
Осознавание ощущений обеспечивает тот же внутренний механизм сознания - мотор самообучения и творчества. Собственно сознание – это не мозг, не поведение, а именно механизм, то есть процесс обработки информации. В мозгу информация представлена в виде биохимических состояний и динамики нейронов. В сознании этой информации соответствуют образы, элементами которых являются ощущения.
Сознание - это процесс.
Можно полностью сохранить информацию, и остановить процесс её обработки. При этом сознание исчезнет.
Для осознавания важно, что творческий механизм сознания вырабатывает оптимальное в данных обстоятельствах поведение органов. Поведение мозга - это его взаимодействие с другими органами. Поведение руки - это её взаимодействие с физическим миром и с мозгом. Если найдено достаточно совершенное "не улучшаемое" поведение, то осознавание тоже исчезает, заменяясь автоматическим управлением. Поэтому тщательно отработанное поведение, например, при игре на музыкальном инструменте, становится автоматическим и не отвлекает осознавание от музыкального творчества.
Хотя мы не придаём этому большого значения, но следует заметить, что сопутствующие автоматическому поведению ощущения тоже могут становиться автоматическими, то есть неосознаваемыми. Например, здоровый человек не обращает внимания на то, что при ходьбе на ступни его ног действует сила в десятки килограммов. А в другой ситуации мы чувствуем и сознательно реагируем на лёгкое прикосновение.
Сознание - это не материальный предмет.
Вопрос "где находится сознание" не имеет смысла. Необходимую обработку информации может выполнять локальный нервный узел, мозг или удалённый процессор, но сознание не находится внутри этих органов. Например, мы видим бабочку на экране компьютера. Обработка сигналов, вырабатываемых её органами, происходит внутри системного блока, а материального тела у неё вообще нет. Отсюда следует, что нельзя присваивать функцию сознания мозгу, так как мозг является только одним из органов, поддерживающих наблюдаемое сознательное поведение живого существа.
Осознавание необходимо только там, где невозможна автоматизация.
Живой мозг, как информационная машина, постоянно взаимодействует с объектным миром. Только малую часть своих способностей он выделяет для осознаваемого творчества. А сам механизм сознания - это неостановимый процесс, который работает, даже когда мы спим и ничего не осознаём. Осознание себя - это только один из многочисленных процессов, происходящих в сознании при управлении телом и его поведением в окружающем мире. Это процесс творческого (то есть, неавтоматического) восприятия внешнего мира. Восприятие мира нельзя полностью автоматизировать, так как разумное живое существо должно быть готово к неожиданному непредсказуемому изменению в окружающем мире. Требуется сохранять внимание и иметь "резерв разумности" (осознавание и способность к умозаключениям), чтобы адекватно изменить поведение.
Большая часть процессов сознания - это управление органами тела, доведённое до автоматизма, и поэтому оно не осознаваемо. Я допускаю, что в то время, когда мозг и другие органы ещё не родившегося ребёнка развивались и приучались взаимодействовать друг с другом, этот творческий процесс самообучения был осознаваем. А материнский организм помогал обучению, страхуя плод от слишком богатого творчества.
Осознание себя индивидуальностью - не основа сознания, а ощущаемая, наиболее творческая сторона его работы, которая не может превратиться в автоматическое легко узнаваемое поведение. Поэтому сознание другого субъекта непосредственно не наблюдаемо. А вот собственное сознание наблюдаемо. Хотя автоматические процессы и составляют основную работу механизма сознания, но они являются подсознательными и не отвлекают нашего внимания от творческой работы сознания, какой бы малой она ни была.
Критерий понимания – это работающий самообучающийся алгоритм.
Разработав алгоритм (технологию) самообучения или универсальной адаптации и снабдив этим алгоритмом искусственное существо, мы обеспечиваем его средством для развития сознания и осознавания себя.
Жизнь среди себе подобных
Поскольку изолированное сознание не наблюдаемо, то моделирование самообучающейся системы возможно только одновременно с моделированием органов чувств и действий, то есть датчиков для взаимодействия с искусственным или реальным миром. Объекты (тела) в этом мире могут не иметь разума или выполнять какие-то запрограммированные действия. А часть объектов могут быть разумными, например, это люди и роботы.
Для нас разумны только люди.
Пусть создана искусственная жизнь. Попробуем проверить разумность какого-нибудь искусственного существа. Если оно развивалось в окружении себе подобных, а не людей, то у него совсем другой мир интересов. Оно будет похоже для нас не на мыслителя или хитреца из теста Тьюринга, а на животное, машину или программу.
Голый философ
Отсутствие давления человеческой культуры сделает то же самое и с человеком. Представим себе тёмное безграничное пространство без тяжести, заполненное неподвижным чистым воздухом при нормальных условиях. В этой невесомости висит голый философ. Для упрощения, пусть он не хочет есть. Долго ли он будет оставаться мудрецом?
Вскоре он потеряет разум. Опыт показывает, что сильное уменьшение