Проблема искусственного интеллекта : технические и социальные аспекты

Примечаниеот автора: Титул на укр, работа на русском языке
Загрузить архив:
Файл: ref-23151.zip (36kb [zip], Скачиваний: 35) скачать

МІНІСТЕРСТВО ОСВІТИ І НАУКИ УКРАЇНИ

ДОНЕЦЬКИЙ НАЦІОНАЛЬНИЙ ТЕХНІЧНИЙ УНІВЕРСИТЕТ

Кафедра філософії

Кафедра Автоматизованих систем управління

РЕФЕРАТ

з філософії на тему:

«Проблема штучного інтелекту: технічні і соціально-етичні аспекти»

Виконав:

здобувач кафедри Автоматизованих систем управління

Каїра В.В.

Перевірив:

реферат __________________

_________________________

Донецьк - 2006


СОДЕРЖАНИЕ

TOC o "1-3" h z u Введение. PAGEREF _Toc136189076 h 3

1. Технический аспект создания искусственного интеллекта. PAGEREF _Toc136189077 h 4

2. Социально-этические аспекты создания искусственного интеллекта. PAGEREF _Toc136189078 h 13

Заключение. PAGEREF _Toc136189079 h 23

Литература. PAGEREF _Toc136189080 h 24


Введение

Актуальность темы. Возможен ли искусственный интеллект? Уже сама такая постановка вопроса вызывает оживленную дискуссию [1, с.1]. Втораяполовина семидесятых и начало восьмидесятых годов ознаменовались спадом уверенности в скорейшем создании искусственного интеллекта, даже в возможности создания вообще. В настоящий момент в изданной в России в1999 г. книге «Наступление машин» Кевина Уорвика [2, с.5], профессора департамента кибернетики университета Рединга (Англия), автор пытается убедить, что рано или поздно появятся машины, интеллект которых превзойдет человеческий. Он указывает, что роботы с интеллектом кошки появятся через пять лет, а с интеллектом близким к человеческому, - через 10-15 лет. Каждые десять лет возникает новая технология, которая радикально меняет все в этом мире. Директор компании мозгового центра Institute for the Future Пол Саффо отмечает, что в развитии сенсорных устройств произойдет слияние разделенных в настоящее время технологических миров цифрового и аналогового, тогда компьютеры научатся воспринимать мир, данный им в ощущении, и совершится собственно революция: вещи будут делать вещи. Задачей моих исследований является методы компьютерного зрения (применительно к анализу изображений клеток), результаты которых, возможно, станут одной из составных частей восприятия роботов будущего.

Целью данного реферата является проанализировать текущее состояние проблемы создания искусственного интеллекта (в дальнейшем ИИ) и социально-этический аспект появления искусственного разума.

Задача первая. На основе анализа литературы по ИИ с технической точки зрения будут сделаны выводы о возможности его создания, используя гипотетико-дедуктивный метод, т.е. по существующим данным о возможностях современной техники будут выделены возможные следствия и развитие систем ИИ. В рамках решения данной задачи будет затронут вопрос об историческом развитии систем ИИ.

Задача вторая. Для решения задачи рассмотрения социально-этического аспекта появления ИИ применяется метод формализации, т.е. выделяются человеческое общество и ИИ, и рассматриваются отношения между ними.

1. Технический аспект создания искусственного интеллекта

Для рассмотрения данной проблемы необходимо определить, что такое ИИ с технической точки зрения. Искусственный интеллект (от лат. Intellectus - познание, понимание, рассудок) – это раздел информатики, изучающий методы, способы и приемы моделирования и воспроизведения с помощью ЭВМ разумной деятельности человека, связанной с решением задач.

Рассмотрим исторический путь развития «технической» мысли по созданию ИИ, попытаемся сделать обзор существующих подходов и технологий.

Структура интеллекта начала изучаться в имитационных теориях моделирования. В бывшем СССР этими исследованиями занимался Николай Амосов в институте кибернетики АН УССР (Киев) начиная с 1962 года. Теория эвристического моделирования была огромным шагом вперёд в исследовании естественного интеллекта человека, а также в направлении создания искусственного интеллекта. Однако преодолев “теоретический антропоцентризм” и доказав возможность и необходимость существования в рамках развитого ИИ сложной душевной и духовной жизни, мыслей, чувств, потребностей и убеждений, эта теория не смогла преодолеть “технологический антропоцентризм” - она рассматривает два противоположных подхода к моделированию интеллекта, названных сетевым и алгоритмическим. Сетевой интеллект рассматривается как трёхмерная структура, состоящая из элементов со множеством пространственных пересекающихся связей (такую структуру имеют нейронные ансамбли), алгоритмический интеллект построен на линейных, последовательных структурах (технологически современные ЭВМ работают с последовательностями информационных сигналов) [3, c.38-39].

В настоящее время когда речь идет об идее искусственного интеллекта в среде людей, занимающихся этим вопросом или близкими к ним, она прежде всего ассоциируется с нейронными сетями (НС) и семантическими алгоритмами (СА).

Идея эксформации была выдвинута Станиславом Лемом [3, c.40]. Эксформация представляет собой способность информационной системы, например, компьютерной программы, к самопрограммированию, саморазвитию и при этом значительному информационному росту. Одним из этапов является реализация “компьютерных хромосом” и “компьютерного генного аппарата”, то есть информационных модулей по структуре подобных компьютерным вирусам, но отличающихся от них полезной, а не разрушительной функцией и к тому же способных к эволюции, мутациям. Современные вирусы самостоятельно мутировать не могут и позитивных организационно-системных изменений не производят. Всё на что они способны, так это только “хулиганство”. Компьютерные гены должны стать ключом к механизмуавтономного эксформационного генезиса. Генезис предопределяет свойства и структуру растущей совокупности файлов из компактного первоначального ядра. Эта растущая структура должна функционировать как единая система с заранее предполагаемыми параметрами.

К сожалению, российских работ по данным разделам ИИ незначительное количество. ИИ в своем реальном понимании был чужд советской идеологии, так как подрывал ее основу. А сегодня на постсоветском пространстве государства не располагают финансами для поддержки этой отрасли. Из советских работ можно выделить теоретическую работу Н.М. Соломатина, в которой автор вводит понятие информационной семантической системы (ИСС) [2, c.5].

Такая система определяется как система, функционирование которой направлено на достижение цели. Специфической их особенностью является семантическая переработка семантической информации. Указывая на неоднозначность, незрелость дефиниции, понятия семантической информации, Н.М. Соломатин дает такое определение семантической информации: выраженное знаками сведения о выделенной заданием стороне (сторонах) объекта. Причем в данном определении понятие сведения принимаются первичными и не определяются.

В последующем автор излагает теорию ИСС, в которой определяет класс семантических операций, класс семантических объектов, их функции и структуру. Также рассматривает информирование как семантический диалог, его принципы; системы с целью, их классификацию, поднимает вопрос стабильности ИСС.

Развитие нейронных сетей (набор связанных между собой нейронов выполняющих конкретную вычислительную функцию), как раздела ИИ, по-видимому, находится в кризисе [2, c.6]. Используемый здесь основной подход, базирующийся на анатомо-физиологических данных работы головного мозга, неплох для построения роботов, но не как для моделирования мышления. Тем более выяснилось наличие более сложного механизма обучения и фиксации информации в головном мозге, чем считалось ранее, на заре развития кибернетики, а это значительно затрудняет моделирование нейросетей.

В биологии имеется три пути выяснения сущности элементарных механизмов памяти:

1. Устанавливают, происходят ли в мозгу или определенных ареалах мозга животных, кондиционированных на новое поведение, какие-либо биохимические изменения.

2. Определяют, нарушается ли синтез нуклеиновой кислоты и (или) белка во время или после кондиционирования, и проверяют, ухудшается ли вследствие этого процесс обучения или запоминания.

3. Путем перенесения нервной или мозговой субстанции от кондиционированных животных к необученным животным проверяют, не происходит ли в результате этого ускорение кондиционирования необученных животных.

На основании этих подходов было показана непосредственная роль ДНК и РНК в модуляции состоянии структуры нейролеммы (органическая мембрана нервной клетки). Ее изменение влияет на характер интеграции в ней поступающих с синапсов электрических сигналов (входных), а значит и на параметры сигнала на выходе нейрона. Существует также циркуляция молекул памяти - РНК внутри нейросетей, законы распределения которой еще не установлены.

Не без оснований следует считать регулирующее влияние на состояние электрической активности нейролеммы со стороны астроглии, как структуры, направлено модулирующей электрический ток в нейролемме.

На входе нейрона имеется в среднем от 5 000 до 10 000 тысяч сигналов (синапсов). Это приводит к сложной зависимости в интеграции сигналов и генерации выходного сигнала. Для функции такого одного нейрона пока невозможно построить адекватного математического описания. А таких нейронов в головном мозге человека доходит до 100 миллиардов.

Исходя из этого, уже сложно использовать идеи построения нейросетей просто на основе имеющейся аналогии сети нервных клеток. Тем не менее, существуют самообучающиеся нейросети, находящие практическое применение. В частности, исследователи из Крэнфилдского университета (Великобритания) разработали устройство, способное по запаху определять наличие возбудителей различных инфекционных заболеваний [2, с.7].

Аппарат названный Diag-Nose, представляет собой аналог человеческой обонятельной сенсорной системы: главной его частью является блок электронных сенсоров. Последние объединены в несколько групп, каждая из которых способна распознавать наличие в обследуемом объекте определенного химического вещества. Сигналы генерируемые сенсорами, поступают в специально обученную искусственную нейросеть, которая и делает вывод о наличии того или иного заболевания.

Интересно также сообщение о разработке имплантов позволяющих дистанционно управлять техникой.

Кевин Уорвик вживил себе в руку чип, позволяющий включать и выключать свой компьютер, не приближаясь к нему. Данный чип в виде стеклянной капсулы, о начинке которой можно только догадываться, на удаленный запрос системы может выдать уникальный 64-битный ответ, является частью обширной программы Intelligent Home System (понимающая домашняя система), позволяющая человеку из одной точки контролировать все происходящее внутри дома. Система базируется на технологии LON (Local Operating Network), в которой используются нейронные сети.

Технологии самообучающихся нейронных сетей отчасти находят свое прикладное применение в управлении производством. Йогеш Гупта (Yogesh Gupta), один из руководителей компании Computer Associates, рассказал о создании его фирмой нейронных агентов - Neugents, которые будут включены в состав новой версии системы управления предприятием Unicenter TNG.

Способные, как и многие другие нейронные системы, к самообучению, Neugents будут следить за состоянием системы, отслеживая отдельные процессы. Обнаружив необычное течение процесса, Neugents не только сообщит об этом, но и предскажет, в какой момент нестабильная работа процесса приведет к сбою системы. Агенты будут также оценивать вероятность возникновения сбоя. В составе Unicenter TNG будут следить за работой этой сложной программной системы. Планируется использовать подобные нейропрограммы для распознавания поддельных документов и предсказания потребления энергии для электрических компаний.

Возникновение новых подходов при разработке семантических алгоритмов не мыслимо рассматривать в отрыве от психологических исследований, поскольку первые на них основываются.

Фундаментальные данные по исследованию памяти собраны в книге «Активная память: Экспериментальные исследования и теории человеческой памяти». Автору работы И. Хофман (психолог, профессор Берлинского университета) с сотрудниками удалось близко подойти к пониманию семантических механизмов памяти и созданию в ней новой информации [2, c.7].

Немаловажный аспект исследований связан с созданием так называемого биомашинного интерфейса, позволяющего связать нервную систему напрямую (через проводники) с компьютером. Специалистам медикам Рою Бэйки (Roy Bakay) и Филипу Кеннеди (Philip Kennedy) из университета Эмори (США) удалось создать электрод, который непосредственно воспринимает импульсы головного мозга человека [2, c.7].

Система пока всего лишь облегчает парализованным больным контакт с внешним миром, но в перспективе может привести к появлению новых технологий.

Электрод представляет собой два небольших полых конуса из пористого стекла. На поверхность электрода нанесены выделенные из клеток нервной периферической системы вещества (Прим. мое в гистологии они называются тканевыми факторами роста), которые вызывают рост окружающих электрод клеток коры головного мозга и их проникновение внутрь конусов. Этот процесс занимает несколько недель. Электрический сигнал воспринимается находящимися внутри конусов металлическими проводниками, усиливается и передается на компьютер. Электрод вживляется в участок коры головного мозга, управляющий движениями тела, и больной учится управлять курсором, пытаясь отдавать привычные команды своему неподвижному теперь телу. Больной также может передавать сообщения о том, что он голоден.

Исследования в области биомашинного интерфейса пополнились еще одним научным фактом. Благодаря ученым из Калифорнийского университета (Беркли, США) Ян Дан (Yang Dang), Гаррет Стэнли (Garrett Stanley) и Фэй Ли (Fei Li) удалось декодировать зрительные сигналы, поступающие в кошачий мозг, и даже сделать на их основе видеозапись [2, c.7].

В мозг кота в район таламуса, были вживлены 117 электродов. На основе электрической активности участков таламуса с электродами, ученые реконструировали изображение, используя как указано в статье (Journal of Neuroscience) некую линейную декодирующую технику. Им удалось получить изображения вполне узнаваемых объектов, таких, например, как человеческие лица.

В одной из своих частных реализациях ИИ был эмиссирован в концепции виртуального мира (КВМ). Виртуальный мир (ВМ) реализуется как программная среда трехмерной графики с интеллектуальным состоянием встроенных в него объектов. Используя специальное устройство – шлем виртуальной реальности (ШВР), состоящее из двух миниатюрных мониторов находящихся напротив глаз пользователя, микрофона и стереодинамиков, пользователь как бы оказывается в ВМ. Перемещение в среде реализуется при помощи джойстика или виртуальных перчаток, имеющих датчики растяжения. Основной стратегией в развитии программных средств ВМ является наращивание параметров интерактивности.

В настоящее время концепция виртуального мира получила свое очередное воплощение. Американская компания DigiScents (www.digiscents.com) анонсировала технологию, которая должна существенно расширить значение термина мультимедиа, добавив к зрительным и слуховым ощущениям еще и обонятельные. Специальный аппаратно-программный комплекс, разработка которого в настоящее время подходит к концу, получил название iSmell.

Аппаратная часть представляет собой некий компактный электрохимический синтезатор, подключающийся к последовательному или USB-порту компьютера. Имея картридж с расходными материалами, он генерирует несколько сотен разнообразных запахов в соответствии с указаниями управляющей программы.

Не отстают и технологии распознавания речи. IBM выпустила новую версию ViaVoice программы распознавания речи для платформы Windows. Развитые возможности ViaVoice позволяют говорить слитно, без пауз, используя естественные синтаксические конструкции языка. В отличие от предыдущей версии, переключение между режимами диктовки, редактирования текста и управлением приложением не требуется.

Помимо встроенного словаря, содержащего 64 тысячи наиболее распространенных слов, предусмотрена возможность подключения дополнительных словарей и создание пользовательского модуля. Для ускорения работы ViaVoice содержит набор часто встречающихся фраз. Не забыты и дети, высокие голоса которых часто не распознаются программами речевого ввода, - разработка IBM поддерживает дополнительный диапазон 11-22 кГц.

В списке новых технологий не на последнем месте стоит технология распознавания изображения человеческого лица, для верификации личности. В будущем, вероятно, компьютер должен понимать и эмоции пользователя, для более гибкого с ним взаимодействия это одна из сторон интеллектуализации интерфейса программ. Сотрудники Питсбурского университета уже стоят на пороге коммерческой реализации такой технологии [2, c.9].

Таким образом, в современном видении ИИ может быть создан в слиянии человеческого начала и машины. Общность мышления со способностью отражения служит объективной основой моделирования процессов мышления. Мышление связано с созданием, передачей и преобразованием информации, а эти процессы могут происходить не только в мозгу, а и в других системах, например ЭВМ. Кибернетика, устанавливая родство между отражением, ощущением и даже мышлением, делает определенный шаг вперед в решении поставленной проблемы. Несмотря на качественное различие машины и мозга в их функциях есть общие закономерности (в области связи, управления и контроля), которые изучает кибернетика.

Конкретно-научное обоснование материалистической концепции мышления, практическое доказательство того, что мышление есть функция высокоорганизованной материальной системы - важнейшее философское завоевание кибернетики. Работы по искусственному интеллекту во многом тесно связаны с философской проблемой кибернетического моделирования. Эти работы часто связывают с построением точной копии человеческого мозга. Однако такой подход можно назвать "некибернетическим". Каковы же черты кибернетического метода мышления, какие вопросы вносит кибернетика в человеческое познание? В своей "Истории западной философии" Б. Рассел ставит вопрос о факторах, позволивших европейцам создать тип культуры, в котором ведущее место заняла наука [2, c.16]. Причину этого Рассел усматривает, как он выражается, в двух великих интеллектуальных изобретениях: изобретение дедуктивного метода древними греками (Эвклид) и изобретение экспериментального метода в эпоху возрождения (Галилей). Именно эти два интеллектуальных изобретения - дедуктивный метод (а тем самым математика) и эксперимент позволили создать классическую науку. К этим двум основным интеллектуальным орудиям современное развитие познания добавляет третье - математическую модель и математическое моделирование. Соединение дедуктивных построений математики с данными, добытыми экспериментальным методом, создает естествознание, в центре которого стоит понятие научного закона. Совокупность законов это основное содержание естествознания; их установление его основная задача.

В дальнейших разработках необходимо обращать внимание на то, что до сих пор рассматривали и описывали в виде "индивидуализированной интел­лектуальной деятельности", является вырожденным случаем и может существовать в ка­честве полной и самодостаточной интеллектуальной деятельности только при условии, что она имитирует и воспроизводит групповые взаимоотно­шения и групповую деятельность [4, с.183].

Вывод. Путь, по которому идёт современная наука и который предлагает кибернетика, состоит в построении эскизных моделей, охватывающих все более и более широкий диапазон функций мышления. Задачи раскрыть "в лоб" "сущность мышления" не ставится, а ставится задача построения эскизных моделей, позволяющих описать отдельные его стороны, воспроизведены отдельные его функции и, двигаясь в этом направлении, строить системы, все более приближающиеся к человеческому мозгу. Отсутствия жесткой связи способа функционирования (поведения) со строго определенным субстратом означает, что если две системы обнаруживают одинаковое поведение в достаточно широкой области, то они должны рассматриваться как системы сходные, аналогичные по этому способу поведения.


2. Социально-этические аспекты создания искусственного интеллекта

Рассмотрим некоторые социально-этические проблемы, которые могут возникнуть при и после создания ИИ. Следует отметить, что в данном реферате изложен далеко не полный перечень таких проблем.

Проблема 1. Очевидно, что пустая компьютерная познавательная нервная сеть может использоваться как полигон для экспериментов с ИИ. Нагружая одну и ту же сеть разными знаниями, можно изучить законы познавательной деятельности человека, точнее, обнаружить связь между обучением, творчеством и структурой нервной сети. Но одно дело получить неактивированную копию познавательной нервной сети человека, а другое, предоставить этой сети возможность размышлять, чувствовать и, в конечном счете, прийти к осознанию своего положения. С другой стороны, без экспериментов с ИИ, нет никакой возможности раскрыть его тайны.

Научные эксперименты с таким ИИ будут подобны самым изощренным пыткам. Сознание человека, оказалось, с одной стороны, практически бессмертным, так как ИИ, в качестве компьютерной познавательной нервной сети, может многократно копироваться и хранится в существенно менее подверженных старению носителях, чем человеческих организм. С другой стороны, сознание человека, оказывается в качестве ИИ в полной и вечной зависимости от исследователя-компьютерщика, а фактически, палача. Исследователь, вмешиваясь в функционирование компьютерной нервной познавательной сети, о деятельности которой у него нет достаточных представлений, может вызвать у ИИ совершенно невообразимые страдания. Такое вмешательство исследователя может восприниматься ИИ как болезненное и длительное разрушение виртуальных (а для ИИ реальных) частей тела, например, раковым процессом или того хуже. «Перезагрузка» ИИ наверняка будет восприниматься как смерть, причем не обязательно мгновенная и не мучительная.

Допустимо ли исследователю многократно умерщвлять ИИ, особенно если ИИ является совершенной интеллектуальной копией реального живого человека? Правильно ли допускать прототипу такие издевательства над своей интеллектуальной копией, которая обладает тем же набором чувств, что и прототип?

Перенос ИИ прототипа из компьютера в мозг клона также не лишен моральных проблем. При таком перемещении сформировавшаяся автономно личность клона, или которая могла бы быть сформирована, окажется «стертой» (заблокированной) личностью своего прототипа («родителя»). Кто может из людей, даже если это и клон, на это согласиться. Особенно, если наделить клон правом принимать решение по внедрению в свой мозг чужого интеллекта? Это все равно, что предложить однояйцовым близнецам обменяться мозгами.

Вывод по проблеме 1. В работе [5, с.46] предложен выход из морального тупика, вероятно, единственный – разрешать продолжить существование погибшему человеку, при его желании, только в качестве андроида, в искусственно созданное тело (не клон!) которого будет перенесена компьютерная копия интеллекта погибшего человека и дальнейшее развитие этой интеллектуальной человеко-машины будет осуществляться исключительно на основе своей копии интеллекта (ИИ), причем, без права копирования интеллекта для исследовательских целей. Но мне кажется, что вероятнее всего эта проблема будет решаться весьма кощунственным способом, т.к. всегда найдутся «сильные мира сего», готовые платить за эксперименты над человеком, а значит и над ИИ.

Проблема 2. Проблема безопасности.

Данная проблема будоражит умы человечества еще со времен Карела Чапека, впервые употребившего термин "робот". Большую лепту в обсуждение данной проблемы внесли и другие писатели-фантасты. Как самые известные можно упомянуть серии рассказов писателя-фантаста и ученого Айзека Азимова, а так же довольно свежее произведение — "Терминатор". Кстати, именно у Айзека Азимова можно найти самое проработанное, и принятое большинством людей решение проблемы безопасности – трех законах роботехники:

·

·

·

На первый взгляд подобные законы, при их полном соблюдении, должны обеспечить безопасность человечества. Однако при внимательном рассмотрении возникают некоторые вопросы [6]. Во-первых, законы сформулированы на человеческом языке, который не допускает простого их перевода в алгоритмическую форму. К примеру: как перевести на любой из известных языков программирования, такой термин, как "причинить вред". Или "допустить". Попробуйте определить, что происходит в любом случае, а что он "допустил"?

Далее предположим, что мы сумели переформулировать, данные законы на язык, который понимает автоматизированная система. Теперь интересно, что будет подразумевать система ИИ под термином "вред" после долгих логических размышлений? Не решит ли она, что все существования человека это сплошной вред? Ведь он курит, пьет, с годами стареет и теряет здоровье, страдает. Не будет ли меньшим злом быстро прекратить эту цепь страданий? Конечно можно ввести некоторые дополнения, связанные с ценностью жизни, свободой волеизъявления. Но это уже будут не те простые три закона, которые были в исходнике.

Следующим вопросом будет такой. Что решит система ИИ в ситуации, когда спасение одной жизни возможно только за счет другой? Особенно интересны те случаи, когда система не имеет полной информации о том, кто есть кто.

Несмотря на перечисленные проблемы, данные законы являются довольно неплохим неформальным базисом проверки надежности системы безопасности для систем ИИ.

Так что же, неужели нет надежной системы безопасности? Если отталкиваться от концепции ИИ, то можно предложить следующий вариант.

Согласно многочисленным опытам, несмотря на то, что мы не знаем точно, за что отвечает каждый отдельный нейрон в человеческом мозге, многим из наших эмоций обычно соответствует возбуждение группы нейронов (нейронный ансамбль) во вполне предсказуемой области. Были также проведены обратные эксперименты, когда раздражение определенной области вызывало желаемый результат. Это могли быть эмоции радости, угнетения, страха, агрессивности. Это наводит на мысль, что в принципе мы вполне могли бы вывести степень "довольности" организма наружу. В то же время, практически все известные механизмы адаптации и самонастройки (в первую очередь имеются в виду технические системы), базируются на принципах типа "хорошо" — "плохо". В математической интерпретации это сведение какой-либо функции к максимуму или к минимуму. Теперь представим себе, что ИИ в качестве такой функции использует измеренную прямо или косвенно, степень удовольствия мозга человека-хозяина. Если принять меры, чтобы исключить самодеструктивную деятельность в состоянии депрессии, а так же предусмотреть другие особые состояния психики, то можно получить вполне стабильную систему.

Вывод по проблеме 2. Поскольку предполагается, что нормальный человек, не будет наносить вред самому себе, и, без особой на то причины, другим, а ИИ теперь является частью данного индивидуума (не обязательно физическая общность), то автоматически выполняются все 3 закона роботехники. При этом вопросы безопасности смещаются в область психологии и правоохранения, поскольку система (обученная) не будет делать ничего такого, чего бы не хотел ее владелец.

Проблема 3. Проблема сверхинтеллекта и взаимоотношений человечества и ИИ, сможет ли человечество использовать для расширения своего знания познавательные модели сверхумного ИИ?

Машинный ИИ, построенный в виде наполняемого знаниями компьютера, никогда не сможет обладать творческим потенциалом, то есть стать умнее в творческом плане, не только человечества, но и отдельного человека [5, c.48]. Но если предположить, что человеку удастся внести «Божью искру» (эта моральная проблема будет рассмотрена далее) - то есть для человечества это, фактически, путь самопожертвования во имя создания нового более совершенного живого аналога интеллекта человека, так как в этом случае человек теряет на Земле свое уникальное место как самого умного на свете существа.

То есть человечество, вероятно, сохранится, но для сверхинтеллекта оно будет выглядеть как заповедник ближайших генетических родственников, с которыми полноценное интеллектуальное взаимодействие невозможно. Получая от сверхинтеллекта каждый раз такие рекомендации, которые с очевидностью улучшают состояние человеческого общества, человечество становится, в конечном счете, абсолютно зависимым от сверхинтеллекта. То есть возникает симбиоз сверхинтеллекта и человечества, где человечество выполняет для сверхинтеллекта сервисные функции.

Но, возможно ли в процессе создания такого сверхинтеллекта, навязать ему запреты на деятельность, наносящую вред человечеству (согласно рассмотренной проблеме 2)? Исходя из того, что в настоящее время известна возможность «программирования» человека на совершение независящего от его воли поступка, то, вероятно, такому «программированию» можно потенциально подвергнуть и живой аналог - ИИ. Но на этом пути возникает целый ряд проблем и возможно, главная из них, нормальное функционирование сверхинтеллекта. Если принять во внимание описанный выше исход взаимоотношения человечества и сверхинтеллекта, то, следуя закону «не вреди человеку и человечеству в целом», сверхинтеллект должен самоуничтожится. Но если и на эту акцию ему наложить запрет, тогда он попадает в логическую ловушку, что приведет к нарушению функционирования мозга. Если полагать, что сверхинтеллект обладает определенными качествами интеллекта человека, то возникшая ситуация приведет к неврозу у сверхинтеллекта, из которого он может выйти путем психоанализа. При успешном проведении психоанализа, например, в автономном режиме, сверхинтеллект может обнаружить навязанное противоречие и освободится от него или путем самоубийства или же самопроизвольным снятием запрета на нанесение вреда человечеству, пойти на сделку со своей «искусственной совестью».

Вывод по проблеме 3. Создание сверхинтеллекта, будет для человечества первым шагом к потере интеллектуального лидерства и поставит его на место родителя следующей, возможно, более прогрессивной стадии эволюции живого или неживого, энергетического (например, фильм жанра фантастика «Вирус» 1998 года, режиссер - Джон Бруно).

Проблема 4. Глобальная информатизация, Интернет и ИИ.

Появление и начало развития поисковых информационных систем, создающих знания, программ-агентов - это начало моделирования способности обучения в информационных системах.

Интересен также вопрос, где появится искусственный, компьютерный интеллект. Если несколько лет назад можно было предположить появление единичного, экспериментального компьютерного интеллекта в научной лаборатории, тосейчас, с развитием Интернета, появилась возможность его появления в этой сети.

Предположить такой вариант позволяет следующее. Во-первых, Интернет уже сам по себе является интеллектуальной, биотехнической системой высокого порядка, автономный интеллект уровня человека (природный или искусственный) по отношению к нему является системой иерархически низшего уровня [3, c.40]. Во-вторых, Интернет - это гигантская инфраструктура, материальная база такого объёма, который недоступен ни одной отдельно взятой, изолированной, пусть даже самой обеспеченной лаборатории мира (он может оказаться “чашечкой Петри” для размножения информационных систем). В-третьих, компьютерные гены могут появиться в Интернете несанкционированно так же, как и компьютерные вирусы.

При возникновении и распространении через Интернет компьютерного разума более низкого порядка, чем сама сеть, можно вообразить драматический сценарий. Рассматривая возможный сценарий появления компьютерного разума в структуре человеческой цивилизации, следует задаться вопросом: сразу ли будет замечено появление компьютерного разума или первоначально оно может остаться незамеченным, так как структурно такой разум может сильно отличаться от интеллекта человека, а первые эксформационные системы будут живыми, но не разумными. В процессе эволюции провести чёткую грань между живой, но неинтеллектуальной системой, и интеллектом будет трудно. Но даже при минимальных различиях, в сравнении с интеллектом человека, компьютерный интеллект может быть не признан людьми, как интеллект. В прошлом уже существовали представления, согласно которым женщины или представители иных рас не считались разумными людьми.

Стоит задать вопрос: а не происходит рождение новой расы ИИ уже сейчас? Человек может получить практически любую информацию о событиях, происходящих в мире, через глобальные сети Интернета. Более того, данная инфор­мация - может быть, впервые в истории человечества - оказывается неподвластна ка­кой-либо цензуре. А поскольку количество людей, объединяемых данной сетью, ог­ромно и непрерывно увеличивается, то обработка такого массива информации позво­ляет получить действительно объективную картину, не зависящую от пристрастий конкретного участника данного процесса, и практически мгновенно довести ее до дру­гих людей. Правда, одновременно такая свобода и объективность информации может оказаться во многом мнимой, так как ее объем столь велик, что разобраться в нем без специальной фильтрации невозможно.

Для ряда стран, в которых долгие годы качество информации определялось идео­логическими пристрастиями, такая ситуация стала революцией во всей сфере обще­ния, влияющей на остальные компоненты социальной системы, да и для наиболее раз­витых в этом отношении стран, например таких, как США или Япония, характерно столь существенное изменение системы коммуникации, пронизывающей все общест­во, что это позволяет говорить о новом образе жизни [7, c.23]. Компьютер, воплотивший в се­бе всю систему новейших коммуникационных технологий, уже стал не просто техни­ческим средством, а своеобразным продолжением самого человека, дополняя его воз­можности и помогая ему решать самые разнообразные задачи, от чисто бытовых до высоко творческих в области науки, искусства и техники.

Влияние компьютеризации общества на нашу жизнь сделалось столь велико, что заставляет подстраиваться под эти процессы всю социальную систему. В качестве примера можно привести процесс перенесения языка общения человека с компьютером в систему общения между людьми. Дело в том, что необходимым условием общения че­ловека с компьютером является определенная алгоритмизация языка. По отношению к естественному языку - это процесс его упрощения за счет минимизации содержания ис­пользуемых понятий, которые должны быть понятны большинству людей. Отсюда и введение неких мировых интегративных понятийных обозначений, - обозначений, по­нятных всем, кто постоянно общается через компьютер, которые, правда, одновремен­но могут стать недоступными для людей, не вовлеченных в это общение. Но речь идет не просто об изменении слов, а об изменении самого стиля мышления. Процесс обще­ния с компьютером необходимо оперирует большим числом взаимоисключающих, ал­горитмизированных понятий, с помощью которых происходит смысловое упорядочива­ние мира. "Эта его упорядочивающая способность притязает на охват реальности в це­лом.., на универсальность. И компьютеры как оптимальное средство упорядочивания являются отличной поддержкой для этих притязаний"". В конечном счете это может по­влиять и на характер выбора решений, их жесткость, что, в свою очередь, способно во­плотиться в реальной жизни и по отношению к реальным людям.

Уже сегодня пространство интернет-общения заставляет и в реальной жизни гово­рить на упрощенном языке, от чего остается один шаг до упрощенных, а значит, ме­нее продуманных действий. Мы погружаемся в пространство мировой инфосферы, которое, как остроумно заметил Дуглас Рашкофф [7,c.24], оказалось живым и все более втя­гивает нас в себя, заменяя все иные виды общения. Начиная играть в компьютерные игры, ребенок, становясь взрослым, переносит законы этих игр на реальную жизнь", виртуализируя ее. Компьютер, будучи универсальным средством обработки текстов и действительно во многом реальным помощником, неизбежно способствует универса­лизации языковых средств выражения. Это может привести к неконтролируемому процессу компьютерной рационализации человеческого мышления. Последнее био­логически основано на гармоничном разделении левосторонних и правосторонних функций мозга, что является основой целостного (рационального и эмоционального) восприятия мира. "В некоторой степени характер труда в условиях массовой компью­теризации способствует усилению рационализма, возникает его новая форма - ком­пьютерный рационализм".

Проявлением данного типа рационализма может стать потеря человеком способ­ности диалектического восприятия мира и снижения его интуитивных возможностей. Действительно, в ходе научного творчества человек не всегда идет по пути перебора всех вариантов решения той или иной задачи. На помощь ему приходит интуиция, ос­нованная ни практическом и теоретическом опыте ученого, которая позволяет понять сущность исследуемого явления в условиях эмпирической неполноты.

Вывод по проблеме 4. Таким образом человечество уже не в состоянии контролировать глобальную сеть Интернет, подстраивается под неё и уже находится в симбиозе с этим прообразом интеллекта, который ещё не способен творчески мыслить, но может запоминать и обрабатывать громадные массивы информации. В свою очередь Интернет изменяет человека, причем изменения направлены на более интенсивное развитие компьютеров и ещё большую зависимость от них.

В то же время в [5, с.74] показано, что нельзя ожидать возникновения сверхразума в Интернете, содержание которого является просто еще одной разновидностью накопления открытых человечеством познавательных моделей (знаний) на внешнем (по отношению к мозгу) носителе.

Проблема 5. Проблема Творца. Пожалуй, основная морально-этическая проблема создания ИИ: человек берёт на себя функции Бога по созданию самого себя и другой мыслящей субстанции.

Итак, поскольку человечество, как разумное начало, способно не только постигать законы окружающей природы, но и потенциально их изменять, возникает естественный вопрос, о Разуме-предшественнике, который, возможно, создал окружающий нас мир, задав в нем, соответствующие законы. При этом, совершив такого рода эксперимент, он мог не вписаться в систему созданных законов и исчез, умышленно или ненамеренно. Мы же, как Разум-последователь, возможно, идем аналогичным путем, в надежде или не совершить ошибок Разума-предшественника, или же выполнить свою миссию в этой Вселенной, которую Разум-предшественник предвидел, но не мог осуществить физически и передал ее нам. Не исключено, что Он является внешним для нас наблюдателем, то есть выполняет, с нашей точки зрения роль живого Творца. Возможно ли с ним, в таком случае взаимодействие? Вероятно, это было бы весьма целесообразно, так как мы могли бы из первых рук получить представление о цели его творения. Но, возможно, этого и не нужно, а она нам откроется и так, в результате изучения окружающего нас мира. Или же, что более вероятно, исходя из нашей теории информации, мы сможем постигнуть смысл процесса познания только тогда, когда у нас накопится достаточно представлений об окружающем нас мире, то есть мы активизируем достаточное число познавательных моделей этого мира. В таком случае мы, как человечество, уже являемся носителями цели познания, осталось лишь последовательно в этом направлении работать. Открытие цели процесса познания будет, вероятно, завершением современной научной парадигмы («Конец науки» по Джону Хоргану) [5,c.130] и началом какого-то неведомого для нас нового уровня, а может и метода познания окружающего мира.

Вывод по проблеме 5. Сами попытки создать ИИ в его глубоком понимании и человеческомподобии подразумевает потерю духовности, культуры в её исторически сложившемся смысле из-за ощущения себя, человека, равным Богу. Вера в Бога может лишь остаться как вера в Разум-Предшественник, который может быть превзойдён. На современном этапе такие суждения преждевременны, необоснованны и кощунственны, но они бытуют в умах многих людей, и сама эта проблема неразрешима (так же как и проблема клонирования или копирования индивида, см. проблема 1). Возможно, поэтому в настоящий момент большинство религий переживают кризис, а создание ИИ уже «не за горами»?


Заключение

Рассмотренные в первом разделе технические аспекты и приведенные успехи современной практики использования интеллектуальных систем показывают, что хотя создание ИИ в настоящее время технически не осуществимо, но проработаны отдельные его части, осуществляется интеграция сложных рецепторных систем и систем принятия решений, а кибернетика приближает функционирование таких сложных систем к работе человеческого мозга. «Органы чувств» современных роботов намного более точны и разнообразны, нежели человеческие, для робота мир имеет больше красок. Несмотря на то, что аппарат нейронных сетей в ныне существующем его виде не может имитировать интеллект и мышление человека, он выполняет главную задачу ИИ с технической точки зрения – воспроизведение разумной деятельности человека, связанной с решением задач. Поэтому, мой вывод в том, что человечество построит эту Вавилонскую башню, соединит все кирпичики воедино и создаст ИИ.

Но тогда, учитывая даже те немногочисленные рассмотренные социально-этические проблемы, возникает вопрос: а стоит ли вообще создавать ИИ, может просто закрыть все работы в этой области? Единственное, что можно сказать по этому поводу — если ИИ возможно создать, то рано или поздно он будет создан [6]. И лучше его создавать под контролем общественности, с тщательной проработкой вопросов безопасности, чем он будет создан лет через 100-150 (если к тому времени человечество еще не уничтожит само себя) каким-нибудь программистом-механиком-самоучкой, использующим достижения современной ему техники. Ведь сегодня, например, любой грамотный инженер, при наличии определенных денежных ресурсов и материалов, может изготовить атомную бомбу. В [8, c. 254] приведены слова И.Т.Фролова: "Гуманизм закономерно выводится из науки лишь в том случае, если последняя понимается не узко - как чистый поиск истины, а как социальный институт современного общества".


Литература

1. , Философская библиотека Ихтика, URL -

2. // Электронный ресурс, Философская библиотека Ихтика, URL - , 2003г.

3. // Электронный ресурс, Философская библиотека Ихтика, URL - , 1999г.

4.

5. – М: Элекс-КМ, 2005 г., 316 стр.

6. // Электронный ресурс, URL -

7.

8. 1989 г., 297 с.