В названии доклада содержатся две сущности, конъюнкция которых определяет цель этого доклада. Это - Д.А.Поспелов и Российский искусственный интеллект.
Если бы я решил строить гипотетическую экспертную систему (ГЭС) для создания моего доклада, то можно было бы сначала рассмотреть все важнейшие события истории жизни Д.А. до настоящего момента, воспользовавшись следующей временной шкалой:
релевантная
шкала для Д.А.
а затем аналогично отобразить всю историю существования российского ИИ, взяв впоследствии пересечение этих линий по времени. Но с точки зрения оптимизации работы такой ГЭС, разумеется, начать следует с искусственного интеллекта, поскольку история ИИ значительно короче и тогда можно соответствующую часть событий из жизни Д.А. считать просто предысторией.
Кроме того, многое из далекого прошлого Д.А. мне известно лишь из книг и по рассказам моих друзей. А если бы я занялся пересказом, то мой доклад потерял бы тот эмоциональный стержень, на который все рассчитывали, когда поручали мне выступить на вторых Поспеловских чтениях.
Например, еще школьником я часто бегал в Политехнический музей, чтобы посмотреть на "грозоотметчик А.С.Попова" и другие радиотехнические диковинки, которые определили во многом мои дальнейшие интересы. Но при этом у меня не установилось какой-то эмоциональной связи с самим изобретателем радио. Вот если бы я знал его лично, тогда - другое дело.
Первую конференцию IJCAI (International Joint Conference for Artificial Intelligence), которая состоялась в США в г. Вашингтоне в 1969 году, можно было бы считать началом официального существования ИИ. До этого момента ИИ скрывался под флагами разных наук. У нас -- под флагом Кибернетики, а у них -- под флагом Computer Science.
релевантная
шкала для ИИ
На самом деле, я познакомился лично с Д.А. довольно поздно. Это случилось где-то в 1971 году, когда я на семинаре в Московском Доме Ученых рассказывал о последних достижениях зарубежного искусственного интеллекта и делился своими впечатлениями о знакомстве с такими людьми, как Джон Маккарти, Нильс Нильссон, Бертрам Рафаэль, Марвин Минский, и многими-многими другими действительно выдающимися людьми, с которыми я подружился на 2-ой Международной объединенной конференции по искусственному интеллекту (IJCAI-1971), состоявшейся в Лондоне.
релевантная
шкала для В.Л.
1. Первая книга
Но если бы я сказал, что мне в моем докладе надо рассматривать только события, начиная с 1971 года, я был бы не прав. Первый раз я говорил о Д.А.Поспелове с моим учителем М.Л.Цетлиным еще в 1965 году, когда Д.А.Поспелов опубликовал книгу "Игры и автоматы" [1].
Как-то я и Саша Бутрименко по сложившейся традиции провожали Михаила Лвовича с его семинара "Теория автоматов", который много лет проходил по четвергам на Физфаке МГУ (см. фото 1. На нем второй справа - М.Л.Цетлин, второй слева - А.В.Бутрименко)
И я тогда сказал примерно следующее:
- Михаил Львович, некто Поспелов опубликовал книгу, в которой он рассказал о ваших работах об автоматах с целесообразным поведением. А вы ведь подобной книги до сих пор не опубликовали!
Я имел в виду то, что все публикации М.Л.Цетлина размещались в престижных, но не слишком хорошо доступных журналах "Автоматика и телемеханика" и "Успехи математических наук".
Меня горячо поддержал тогда Саша Бутрименко. Но Михаил Львович прервал нас, сказав
- Ничего... Я знаю Поспелова и книга не плохая. А мы еще напишем свою книгу, вместе с вами.
Книга Игры и автоматы является иллюстрацией того, что мы потом наблюдали много и много раз. В ней Дмитрий Александрович продемонстрировал, что истинный ученый публикует не только свои личные результаты, но и то, что представляется ему интересным и важным у других, популяризируя и продвигая не только свои личные достижения, но и достижения близких ему по духу специалистов.
То, что та книга была книгой об искусственном интеллекте, сомнения не вызывает, но сам этот термин тогда еще не был в ходу.
3. Международная объединенная конференция по искусственному интеллекту MОКИИ (IJCAI) в 1975 г.
Действительно, когда было принято решение о проведении в СССР 4IJCAI в 1975 году, то все организационные задачи решались именно через Совет по кибернетике, возглавляемый замечательным ученым Аксель Ивановичем Бергом. Об организации этой конференции, которую я отношу к числу своих наибольших заслуг, у меня уже раньше был случай рассказать [2].
Конференция прошла в г. Тбилиси в сентябре 1975 года. Важнейшим было то обстоятельство, что на ней лицом к лицу встретились ученые, которые были знакомы друг с другом по разрозненным публикациям, но никогда и не надеялись встретиться лично, тем более, что в то время и выезды за рубеж носили единичный характер, да и многие из специалистов у нас (и в США) работали в таких организациях, откуда вообще "не положено" было выезжать за границу.
4. Дмитрий Александрович и мы
С сентября 1975 года роли Д.А.Поспелова и Г.С.Поспелова в тогда советском искусственном интеллекте четко определились и никаких сомнений больше не вызывали. Дмитрий Александрович - это интеллектуальный двигатель всего направления, а Гермоген Сергеевич обеспечивает ту прочность, которую и за рубежом искусственному интеллекту придавали внедрения и реализации.
Ну а мы, все остальные? Мы что, потерялись в ярком свете этих звезд?
Отнюдь нет!
Дмитрий Александрович Поспелов и до тбилисской конференции и после нее делал все, чтобы ни одна малейшая интеллектуальная находка не затерлась. Он опубликовал множество книг, словарей, энциклопедий, рассказывая о достижениях знакомых, а иногда малознакомых окружающим, ученых.
Он объединил нас в Российскую ассоциацию искусственного интеллекта, задав ее структуру, затеял издание журнала РАИИ "Новости искусственного интеллекта". Еще и до этого он проводил ряд ярких конференций у нас в стране. Теперь же конференции по искусственному интеллекту стали проводиться с завидной регулярностью. Нашу ассоциацию давно приняли в Европейский координационный комитет по искусственному интеллекту (ECCAI) наряду со всеми другими Европейскими объединениями. Более того, уже по нашей рекомендации в ECCAI была принята Украинская ассоциация, занимающаяся искусственным интеллектом.
Д.А. Поспелов еще раньше создал международную научную лабораторию в Европе. Дружил с учеными из всех стран, привлекая на совместные мероприятия талантливых людей, которых, как оказалось, и у нас довольно много (см. Фото 2.).
Лет десять назад, к его работам обратились американские ученые, которые сделали перевод его лучших книг на английский и организовали в США международный научный семинар, на который Д.А.Поспелов поехал, окруженный богатой свитой своих коллег.
Тогда Д.А.Поспеловым и др. был предложен даже новый термин "Прикладная семиотика", который вполне отражает уверенность, что деятельность Д.А.Поспелова, явно теоретическая и даже гуманитарная по своему формату, на самом деле, крайне важна для решения острых прикладных проблем.
К моему сожалению, в том семинаре я не участвовал, но его последствия я ощутил и на себе. Так, те же американцы позже пригласили меня на конференцию по прикладной семиотике в г. Бостоне, где в дополнение к моей личной презентации меня попросили сделать пленарный доклад о работах Д.А. Поспелова по семиотике [3], который я назвал так: "В поисках скрытого смысла (работы Поспелова по прикладной семиотике)".
Поэтому, говоря о роли Д.А.Поспелова в Российском ИИ, я могу смело заключить - она огромна и многообразна. (Хотя я понимаю, что столь громкое заявление Дмитрий Александрович сегодня воспримет, как обычно с присущим ему налетом сарказма и юмора и, может быть, легкого недоверия докладчику (см. фото 3.) ).
Именно благодаря активности Д.А.Поспелова, сообщество искусственного интеллекта в нашей стране представляет собой сегодня крепкий коллектив часто спорящих единомышленников, который и организовал проведение на базе Политехнического музея очередных Поспеловских чтений и ежегодный съезд Российской ассоциации искусственного интеллекта.
В заключение я хочу привести один конкретный пример вклада Д.А.Поспелова, который, может быть, не знаком только новичкам. Но я надеюсь, вы простите мне упоминание этой старой работы, которую, правда, мне пришлось для этого доклада переводить с английского на русский. Ну мне, так сказать, не привыкать, хотя прежде мне приходилось переводить на русский только американских, английских, французских и финских авторов.
Дмитрий Александрович сумел организовать тесное сотрудничество не только в рамках стран
социалистического лагеря, о чем уже немало говорилось и было написано, но и с такой сугубо капиталистической страной, как Финляндия. Рабочей группой по Кибернетике Советско-Финской комиссии по научной и технической кооперации с начала 1970-х годов была проведена целая серия ежегодных совещаний СССР и Финляндии по проблематике ИИ.
Например, 21-23 октября 1986 под председательством Пенти Успаа и Дмитрия Поспелова совместно с Техническим центром Финляндии (VTT) проходило очередное такое совещание: "Успехи в области человеко-машинного взаимодействия". От СССР в нем кроме Д.А.Поспелова принимали участие еще несколько человек, в частности В.Ф.Хорошевский и В.Л.Стефанюк.
Как обычно, Д.А.Поспелов произнес там оригинальный доклад с интригующим названием: "Десять препятствий на пути моделирования человеческих рассуждений в экспертных системах." [4] , на котором я хотел бы остановиться несколько подробнее, чтобы на этом конкретном примере показать чисто научную, а не только организационную роль Д.А. Поспелова и в отечественном и в мировом искусственном интеллекте.
В докладе говорится о вещах, с которыми коллеги Д.А.Поспелова хорошо знакомы по его многочисленным лекциям на эту тему. Этим знающим людям и Дмитрию Александровичу я приношу извинения за неизбежный повтор и возможные неточности. Мне кажется целесообразным кратко изложить этот доклад прежде всего для тех присутствующих, которые либо вообще об этом материале не слышали, либо всего лишь только слышали и читали, но пока не применяли в своей деятельности ( а там еще есть, чем воспользоваться . . .).
Д.А. Поспелов начинает с утверждения, что логика, используемая в искусственных системах типа ЭС, носит характер соглашения, конвенции. Он подчеркивает, что системы логического вывода имеют ситуационную природу, т.е. в разных ситуация применяется различная логика.
Ниже я повторю этот перечень из "10 препятствий" с целью показать, что еще не всё нашло применение в современных работах по приобретению и использованию знаний. И уж, как минимум, приводимый ниже список "препятствий" объясняет, почему работа инженера по знаниям, является столь трудной и ответственной задачей, до сих пор удивительно плохо поддающейся автоматизации. (Многое из сказанного в упоминаемом докладе более подробно и широко анализируется Д.А.Поспеловым в его известной книге того периода [5].)
Препятствие 1. Продукционные правила Если А, то Б находят самое широкое применение. Однако согласно Берну (Eric Berne) человеком в жизни используется 3 типа правил - взрослые, родительские и детские.
- Правила взрослых представляют собой обычные продукционные правила, процент которых в нашей речи невелик.
- Родительские правила могут разбиты на две группы: религиозные и "очевидные". Левая часть каждого такого правила всегда предполагается истинной: она либо забыта, либо неизвестна: "все так делают". "Все должны участвовать в танцах вокруг костра, прежде чем отправиться на охоту."
В очевидных правилах истинность А устанавливается путем инверсии: Так, фраза "Руки нужно мыть" предполагает, что "Если не мыть руки, то можно заболеть".
- Детские правила представляют собой мечты о достижении Б. Но поскольку для достижения Б необходимо А, тогда справедливость А принимается, как само собой разумеющееся. Например, Миша хочет иметь велосипед. Условием этого является хорошее поведение, и Миша считает, что так оно и есть, т.е. уж он то ведет себя хорошо.
Препятствие 2. Человеческое рассуждение ведется на шкалах.
Существующие логические системы не отражают рассуждений на шкалах типа
где знак
обозначает
упорядочение в некоторой шкале, возможно отличающейся от шкалы
для γ, δ. Символ 
означает "соответствие", но уже на другой шкале.
Препятствие 3. В рассуждениях человека используются нечеткие доказательства, которые принадлежат к трем разновидностям: (1) нечеткие индуктивные рассуждения, (2) статистические доказательства и (3) рассуждения по аналогии:
(1) "Я часто встречал такси желтого цвета. Следовательно, в этом городе все такси - желтые."
(2) "В 99% случаев такси оказывались желтыми, следовательно оставшийся 1% можно отнести за счет ошибок."
(3) "Я видел желтое такси. В моем родном городке все такси - желтые. Следовательно, и в этом городе такси - желтые."
В рассуждениях на ассоциациях делается перенос истинности рассуждения α→β на ассоциированное рассуждение α′→β′, где β
β′
Логические системы такого сорта еще предстоит исследовать. Например, вот как может быть описано рассуждение по аналогии:
где
обозначает некоторый изоморфизм соответствующих описаний.
Препятствие 4. Имеются рассуждения, базирующееся на построении бинарного дерева, например: "Вы ревнивы? В случае если это так, то могли бы вы убить человека? А если так, то кого, ее или его? А если нет, то... " Это характеризует экспертизу, где база знаний представлена в виде рассуждений "древесного" типа.
(Замечу, что в наших работах по разработке прикладной экспертной системы для выбора и расчета фундаментов для разнообразных построек в различных условиях [6], мы имели дело именно с такого рода экспертом, который прибегал к высказываниям, содержащим не два, а три элемента ("Если А, то Б, но тогда С"). Я, как специалист по знаниям, попытался внушить этому весьма опытному и умному строителю-проектировщику, что удобнее пользоваться "парными" высказываниями, но потерпел полную неудачу. В результате пришлось взять на себя функцию "перевода" тройных логических цепочек в привычные для нас двойные, что сделать было не так уж и трудно.)
Препятствие 5. В обычных продукционных системах Если А, то Б утверждение об истинности А может иметь нелогическую природу. Истинность А может быть, например, оправдана принятой в обществе моралью: "Не ешьте свинину", "Справедливость - это самое важное", или тем, что именно так утверждал авторитетный и уважаемый человек, или тем, что это вызывает яркие положительные или отрицательные эмоции. При этом утверждение А может быть ошибочным или основанным на предрассудках, в конечном счете, вытекающих из ошибочных моделей или представлений. Такая ситуация особенно характерна для медицины.
Препятствие 6. В человеческих рассуждениях используются противоречия: "Речка движется и не движется, вся из лунного серебра". Для этих ситуаций особенно подходящими является логики миров Крипке (замечу, что в ИИ для этого часто используются фреймы) или паранепротиворечивая логика.
Препятствие 7. Люди часто опускают большую часть знаний, которые они используют в неявном виде для производства логического вывода, т.е. прибегают к редукции знаний. Например, "Я почувствовал себя обиженным. Ты даже не поцеловала меня при нашей встрече". Или, " Я увидел, что рядом со мною стоит пожилая женщина. Я тут же поднялся и предложил ей сесть."
К сожалению, эксперты не всегда осознают, что специалист по отбору знаний (инженер по знаниям) не обязательно пришел из той же образовательной среды, что они отнюдь не всегда в состоянии реконструировать опущенные блоки знаний. Поэтому иногда экспертов просто раздражает, когда специалист по знаниям начинает "глубоко копать", устраивая эксперту буквально допрос.
Препятствие 8. Вместо обобщающих утверждений, которые они не всегда способны привести, эксперты сводят дело к частным примерам рассуждений, использующих квантифицирующие заключения, которые нельзя, на самом деле, трактовать, как строгие кванторы: "Саша и Володя всегда пьют чай на работе вместе. У Саши обеденный перерыв, и он сел пить чай. Пьёт ли чай Володя?" Формально ответ должен быть, как будто положительным, т.е. "да". Но на практике ответ часто будет совсем иным: "Я не знаю. Может быть, что у Саши какие-то проблемы с желудком, и ему нельзя пить столько чая..."
Препятствие 9. В рассуждениях человека часто используются оппозиции, которые не встречаются в классической логике: "Мы не звери и просто так людей не убиваем", "Я не такой, как ты: я никогда не присваиваю чужих заслуг".
Препятствие 10. Зависимость выводов между собой в конкретной ситуации является наиболее отличительной чертой. Справедливость данного вывода зависит от контекста, ситуации и ее изменений.
ПДействительно, в обычной формальной системе выводимость утверждения (F1 & F2) всегда дедуктивно вытекает из истинности F1 и F2. Но на практике это возможно, лишь если два исходных утверждения совершенно независимы, так что достижение одного из них никак не влияет на достижение другого. Для иллюстрации этого Д.А. Поспелов приводит пример, когда некий воображаемый робот должен переместиться на значительное расстояние и при этом должен повернуть свою руку в сторону. Но ведь вполне может быть так, что где-то на пути движения робота стоит большое дерево, на которое натолкнётся рука, если она к этому времени уже повернута в сторону.
Эта конкретная ситуация никак не видна в исходной попытке вывести
( Замечу, что эта проблема находит непосредственное решение в нашей динамической экспертной системе [7], в которой, по существу, справедливость каждого из утверждений F1 и F2 перепроверяется достаточно часто. В этом процессе легко обнаруживается, что в каких-то ситуациях либо одно, либо другое из утверждений стало неверным, и поэтому общий вывод о справедливости (F1 & F2) в этой ситуации также неверен. См. решение подобных вопросов также в [8, 9].)
Общий наш вывод из блестящего анализа "препятствий", проведенного Д.А. Поспеловым, состоит в том, что Дмитрий Александрович вовремя и весьма справедливо обнаружил несоответствие устных высказываний людей, той жесткой логической схеме рассуждений, которой следует компьютер.
Замечу при этом, что некоторые механизмы типа нечеткой логики, иногда лишь скрывают за вводимой неопределенностью тот факт, что рассуждения людей подчас совершенно иные, и высказываемые ими соображения весьма редко напрямую соответствуют тем фактам, в которых они вроде бы уверены, выстраивая своё рассуждение.
Как замечает Д.А. Поспелов, именно поэтому поведение искусственной системы для нас представляется иногда неадекватным и даже раздражающим.
Для нас выход здесь один - попытаться последовательно реализовать все механизмы рассуждений людей, о которых говорит Дмитрий Александрович. А может быть, и пополнить указанный список "препятствий".
Не будет преувеличением сказать, что циклом своих работ о сравнении рассуждений человека и машины Д.А.Поспелов может особенно гордиться.
Боюсь, что в этой точке моего доклада Дмитрий Александрович опять улыбнется, как это было, когда я посетил его дома пару дней назад и рассказал о моем плане выступления.
Он ведь не стоит на месте! (см. Фото 3 и Фото 4.)
[1] Поспелов Д.А. Игры и автоматы. - М. - Л.-: Энергия, 1966.- 134с.
[2] Стефанюк В.Л. От автоматов М.Л.Цетлина к искусственному интеллекту (этапы и вехи, или как это было). Новости искусственного интеллекта N4, М.: Российская ассоциация искусственного интеллекта, 1995, С. 56-92.
[3] Stefanuk V.L. In Search for Hidden Meaning: Pospelov's Work on Applied Semiotics. International Conference on Integration of Knowledge Intensive Multi-Agent Systems (KIMAS'03: Modeling, Exploration, and Engineering", September 30 - October 4, 2003), P. 575-578..
[4] Dimitry Pospelov. Ten barriers to the simulation of human reasoning in Expert Systems. Proceedings of VTT SYMPOSIUM 78 - Advances in Man-Machine Interactions, Technical Research Centre of Finland, Espoo 1987, pp. 9-14.
[5] Д.А.Поспелов. Моделирование рассуждений. М: Радио и связь, 1989, 183 с.
[6] В.Л. Стефанюк. Опыт использования развиваемой оболочки экспертной системы ЗНАТОК в приложениях" III конференция по искусственному интеллекту, КИИ-92. Ассоциация искусственного интеллекта. Сборник научных трудов в двух томах, Тверь. - 1992, том 2. - С.16-17.
[7] В.Л.Стефанюк. Поведение квазистатической оболочки в изменяющей нечеткой среде. Труды IY национальной конференции с международным участием "Искусственный интеллект - 94", Рыбинск, сентябрь 16-24, 1994, Т.1, P.199-203
[8] V.L. Stefanuk. Dynamic expert systems. KYBERNETES, The International Journal of Systems & Cybernetics. V.29, Number 5/6, 2000, pp. 702-709.
[9] Gennady Osipov. Goal-Orientation for Systems with Proper Behaviour. Proceedings of the Sixth Joint Conference on Knowledge-Based Software Engineering, Frontiers in Artificial Intelligence and Applications, IOS Press, Amsterdam, 2004.