Класичний штучний інтелект навряд чи буде втілений у мислячих машинах; межа людської винахідливості у цій галузі, мабуть, обмежиться створенням систем, що імітують роботу мозку.

У науці про штучний інтелект (ІІ) відбувається революція. Щоб пояснити її причини і зміст і уявити в перспективі, ми перш за все повинні звернутися до історії.

На початку 50-х років традиційне, дещо розпливчасте питання про те, чи може машина мислити, поступилося більш доступним питанням: чи може мислити машина, що маніпулює фізичними символами відповідно до правил, що враховують їхню структуру. Це питання сформульовано точніше, тому що за попередні півстоліття формальна логіка і теорія обчислень суттєво просунулися вперед. Теоретики стали високо оцінювати можливості абстрактних систем символів, які зазнають перетворень відповідно до певних правил. Здавалося, що якби ці системи вдалося автоматизувати, їх абстрактна обчислювальна міць проявилася б у реальної фізичної системі. Подібні погляди сприяли народженню цілком певної програми досліджень на досить глибокій теоретичній основі.

Чи може машина думати?

Було багато причин для того, щоб відповісти так. Історично одна з перших і найглибших причин полягала у двох важливих результатах теорії обчислень. Перший результат був тезою Черча, згідно з якою кожна функція, що ефективно обчислюється, є рекурсивно обчислюваною. Термін "ефективно обчислювана" означає, що існує якась "механічна" процедура, за допомогою якої можна за кінцевий час обчислити результат при заданих вхідних даних. «Рекурсивно обчислювана» означає, що існує кінцева безліч операцій, які можна застосувати до заданого входу, а потім послідовно і багаторазово застосовувати до результатів, що одержуються, щоб обчислити функцію за кінцевий час. Поняття механічної процедури не формальне, а скоріше інтуїтивне, і тому теза Черча не має формального доказу. Однак він проникає в саму суть того, чим є обчислення, і безліч різних свідчень сходяться на його підтвердження.

Другий важливий результат був отриманий Аланом М. Тьюрингом, який продемонстрував, що будь-яка рекурсивно обчислювана функція може бути обчислена за кінцевий час за допомогою максимально спрощеної машини, що маніпулює символами, яку стали називати універсальною машиною Тьюринга. Ця машина керується рекурсивно застосовними правилами, чутливими до ідентичності, порядку та розташування елементарних символів, які відіграють роль вхідних даних.

З цих двох результатів випливає дуже важливе слідство, а саме що стандартний цифровий комп'ютер, з правильною програмою, досить великою пам'яттю і має достатній час, може обчислити будь-яку керовану правилами функцію з входом і виходом. Іншими словами, він може продемонструвати будь-яку систематичну сукупність відповідей на довільні дії з боку довкілля.

Конкретизуємо це наступним чином: розглянуті вище результати означають, що відповідно запрограмована машина, що маніпулює символами (надалі називатимемо її МС-машиною), повинна задовольняти тесту Тьюринга на наявність свідомого розуму. Тест Тьюринга - це суто біхевіористський тест, проте його вимоги дуже сильні. (Наскільки спроможний цей тест, ми розглянемо нижче, там де зустрінемося з другим, принципово відмінним «тестом» на наявність свідомого розуму.) Згідно з початковою версією тесту Тьюринга, входом для МС-машини повинні бути питання та фрази природною розмовною мовою, які ми набираємо на клавіатурі устрою введення, а виходом є відповіді МС-машини, надруковані пристроєм виведення. Вважається, що машина витримала цей тест на присутність свідомого розуму, якщо її відповіді неможливо відрізнити від відповідей, надрукованих реальною розумною людиною. Звичайно, нині нікому не відома та функція, за допомогою якої можна було б отримати вихід, який не відрізняється від поведінки розумної людини. Але результати Черча та Тьюринга гарантують нам, що якою б не була ця (імовірно ефективна) функція, МС-машина відповідної конструкції зможе її обчислити.

Це дуже важливий висновок, особливо якщо врахувати, що тьюрингівський опис взаємодії з машиною за допомогою друкувальної машинки є несуттєвим обмеженням. Те ж висновок залишається в силі, навіть якщо МС-машина взаємодіє зі світом більш складними способами: за допомогою апарату безпосереднього зору, природного мовлення і т. д. Зрештою більш складна рекурсивна функція все ж таки залишається обчислюваною за Тьюрингом. Залишається лише одна проблема: знайти ту безперечно складну функцію, яка управляє реакціями у відповідь людини на впливи з боку зовнішнього середовища, а потім написати програму (безліч рекурсивно застосовних правил), за допомогою якої МС-машина обчислить цю функцію. Ось ці цілі і лягли в основу наукової програмикласичного штучного інтелекту

Перші результати були обнадійливими

МС-машини з дотепно складеними програмами продемонстрували цілу низку дій, які начебто ставляться до проявів розуму. Вони реагували на складні команди, вирішували важкі арифметичні, алгебраїчні та тактичні завдання, грали в шашки та шахи, доводили теореми та підтримували простий діалог. Результати продовжували поліпшуватися з появою більш ємних запам'ятовуючих пристроїв, більш швидкодіючих машин, а також з розробкою більш потужних і витончених програм. Класичний, або «побудований на програмуванні», ІІ був дуже живий і успішний науковий напрямок майже з усіх точок зору. Заперечення, що періодично висловлювалося, що МС-машини в кінцевому підсумку будуть здатні мислити, здавалося проявом необ'єктивності і неінформованості. Свідчення на користь позитивної відповіді на питання, винесене в заголовок статті, здавалися більш ніж переконливими.

Звичайно, залишалися деякі неясності. Насамперед МС-машини не дуже нагадували людський мозок. Однак і тут у класичного ІІ була напоготові переконлива відповідь. По-перше, фізичний матеріал, з якого зроблена МС-машина, по суті не має жодного відношення до обчислюваної нею функції. Остання зафіксована у програмі. По-друге, технічні подробиці функціональної архітектури машини також не мають значення, оскільки зовсім різні архітектури, розраховані на роботу з абсолютно різними програмами, можуть виконувати одну і ту ж функцію по входу-виходу.

Тому метою ІІ було знайти функцію, по входу та виходу характерну для розуму, а також створити найбільш ефективну з багатьох можливих програм для того, щоб обчислити цю функцію. При цьому говорили, що специфічний спосіб, за допомогою якого функція обчислюється людським мозком, не має значення. Цим і завершується опис сутності класичного ІІ та підстав для позитивної відповіді на питання, поставлене у заголовку статті.

Чи може машина думати? Були також деякі докази і на користь негативної відповіді. Протягом 60-х років негативні аргументи, що заслуговують на увагу, зустрічалися відносно рідко. Іноді висловлювалося заперечення, у тому, що мислення - це фізичний процес і протікає він у нематеріальної душі. Однак подібна дуалістична думка не виглядала досить переконливою ні з еволюційної, ні з логічної точки зору. Воно не вплинуло на дослідження в області ІІ.

Набагато більшу увагу фахівців з ІІ привернули міркування іншого характеру. У 1972 р. Хьюберт Л. Дрейфус опублікував книгу, у якій різко критикувалися парадні демонстрації проявів розуму у систем ІІ. Він вказував на те, що ці системи не адекватно моделювали справжнє мислення, і розкрив закономірність, властиву всім цим невдалим спробам. На його думку, у моделях був відсутній той величезний запас неформалізованих загальних знань про світ, який має будь-яка людина, а також здатність, властива здоровому глузду, спиратися на ті чи інші складові цих знань, залежно від вимог обстановки, що змінюється. Дрейфус не заперечував принципової можливості створення штучної фізичної системи, здатної мислити, але він дуже критично поставився до ідеї про те, що це може бути досягнуто тільки за рахунок маніпулювання символами за допомогою рекурсивно застосовуваних правил.

У колах фахівців із штучного інтелекту, а також філософів міркування Дрейфусабули сприйняті головним чином як недалекоглядні та необ'єктивні, що базуються на неминучих спрощеннях, властивих цій ще дуже молодій галузі досліджень. Можливо, ці недоліки дійсно мали місце, але вони, звичайно, були тимчасовими. Настане час, коли потужніші машини та якісніші програми дозволять позбутися цих недоліків. Здавалося, що час працює на штучний інтелект. Таким чином, і ці заперечення не мали жодного помітного впливу на подальші дослідження в галузі ІІ.

Однак виявилося, що час працював і на Дрейфуса: в кінці 70-х - початку 80-х років збільшення швидкодії та обсягу пам'яті комп'ютерів підвищувало їх «розумові здібності» ненабагато. З'ясувалося, наприклад, що розпізнавання образів у системах машинного зору потребує несподівано великого обсягу обчислень. Для отримання фактично достовірних результатів необхідно було витрачати дедалі більше машинного часу, набагато перевищуючи час, необхідне виконання тих самих завдань біологічної системі зору. Такий повільний процес моделювання насторожував: адже в комп'ютері сигнали поширюються приблизно в мільйон разів швидше, ніж у мозку, а тактова частота центрального процесорного пристрою комп'ютера приблизно в стільки ж разів вище за частоту будь-яких коливань, виявлених у мозку. І все ж таки на реалістичних завданнях черепаха легко обганяє зайця.

Крім того, для вирішення реалістичних завдань необхідно, щоб комп'ютерна програма мала доступ до надзвичайно великої бази даних. Побудова такої бази даних вже сама по собі представляє досить складну проблему, але вона посилюється ще однією обставиною: яким чином забезпечити доступ до конкретних фрагментів цієї бази даних, що залежать від контексту, в реальному масштабі часу. У міру того, як бази даних ставали все більш ємними, проблема доступу ускладнювалася. Вичерпний пошук займав дуже багато часу, а евристичні методи не завжди призводили до успіху. Побоювання, подібні до тих, що висловлював Дрейфус, почали розділяти навіть деякі фахівці, які працюють у галузі штучного інтелекту.

Приблизно у цей час (1980 р.) Джон Сірл висловив принципово нову критичну концепцію, що ставила під сумнів саме фундаментальне припущення класичної програми досліджень з ІІ, саме - ідею у тому, що правильне маніпулювання структурованими символами шляхом рекурсивного застосування правил, враховують їх структуру, може становити сутність свідомого розуму.

Основний аргумент Сірла базувався на уявному експерименті, в якому він демонструє дві дуже важливі обставини. По-перше, він описує МС-машину, яка (як ми повинні розуміти) реалізує функцію, що по входу і виходу здатну витримати тест Тьюринга у вигляді розмови, що протікає виключно китайською мовою. По-друге, внутрішня структура машини така, що незалежно від того, яку поведінку вона демонструє, у спостерігача немає сумнівів у тому, що ні машина в цілому, ні будь-яка її частина не розуміють китайської мови. Все, що вона в собі містить, - це людина, що говорить тільки англійською, виконує записані в інструкції правила, за допомогою яких слід маніпулювати символами, що входять і виходять через віконце для поштової кореспонденції у двері. Коротше кажучи, система позитивно задовольняє тесту Тьюринга, незважаючи на те, що не має справжнього розуміння китайської мови і реального семантичного змісту повідомлень (див. статтю Дж. Сірла «Розум мозку - комп'ютерна програма?»).

Звідси робиться загальний висновок, що будь-яка система, яка просто маніпулює фізичними символами згідно з чутливими до структури правилами, буде в кращому разі лише жалюгідною пародією справжнього свідомого розуму, оскільки неможливо породити «реальну семантику», просто крутячи ручку «порожнього синтаксису». Тут слід зауважити, що Сірл висуває не біхевіористський (не поведінковий) тест на наявність свідомості: елементи свідомого розуму повинні мати реальний семантичний зміст.

Виникає спокуса дорікнути Сірла в тому, що його мислений експеримент не адекватний, оскільки запропонована ним система, що діє на кшталт «кубика-рубика», працюватиме до абсурду повільно. Однак Сірл наполягає, що швидкодія в цьому випадку не відіграє жодної ролі. Думаючий повільно все ж таки думає правильно. Все необхідне для відтворення мислення, згідно з концепцією класичного ІІ, на його думку, є в «китайській кімнаті».

Стаття Сирла викликала жваві відгуки фахівців з ІІ, психологів та філософів. Проте загалом вона була зустрінута ще ворожіше, ніж книга Дрейфуса. У своїй статті, яка одночасно публікується в цьому номері журналу, Сірл наводить низку критичних доказів, що висловлюються проти його концепції. На нашу думку, багато з них правомірні, особливо ті, автори яких жадібно «кидаються на приманку», стверджуючи, що, хоча система, що складається з кімнати та її вмісту, працює дуже повільно, вона все ж таки розуміє китайську мову.

Нам подобаються ці відповіді, але не тому, що ми вважаємо, що китайська кімната розуміє китайську мову. Ми згодні із Сірлом, що вона його не розуміє. Привабливість цих аргументів у цьому, що вони відбивають відмова сприйняти найважливішу третю аксіому у міркуванні Сирла: « Синтаксис сам собою не становить семантику та її недостатньо існування семантики». Можливо, ця аксіома і справедлива, але Сірл не може цілком стверджувати, що йому це точно відомо. Більше того, припустити, що вона справедлива, - значить напрошуватися на питання про те, чи заможна програма досліджень класичного ІІ, оскільки ця програма базується на дуже цікавому припущенні, що якщо нам тільки вдасться порушити відповідним чином структурований процес, своєрідний внутрішній танець синтаксичних елементів, правильно пов'язаних з входами і виходами, ми можемо отримати ті ж стани і прояви розуму, які властиві людині.

Те, що третя аксіома Сірла дійсно напрошується на це питання, стає очевидним, коли ми безпосередньо зіставляємо її з його першим висновком: «Програми з'являються сутністю розуму та їх наявності недостатньо для наявності розуму». Не важко бачити, що його третя аксіома вже несе у собі 90% майже ідентичного їй висновку. Ось чому уявний експеримент Сірла спеціально придумано для того, щоб підкріпити третю аксіому. У цьому суть китайської кімнати.

Хоча приклад з китайською кімнатою робить аксіому 3 привабливою для непосвяченого, ми не думаємо, що він доводить справедливість цієї аксіоми, і щоб продемонструвати неспроможність цього прикладу, ми пропонуємо як ілюстрацію свій паралельний приклад. Часто один вдалий приклад, що спростовує твердження, що оспорюється, значно краще прояснює ситуацію, ніж ціла книга, повна логічного жонглювання.

В історії науки було багато прикладів скепсису, подібного до того, який ми бачимо в міркуваннях Сірла. У XVIII ст. ірландський єпископ Джордж Берклі вважав немислимим, щоб хвилі стиснення у повітрі власними силами могли бути сутністю звукових явищ чи чинником, достатнім їхнього існування. Англійський поет і художник Вільям Блейк і німецький поет-природовипробувач Йоган Гете вважали немислимим, щоб маленькі частинки матерії самі по собі могли бути сутністю або фактором, достатнім для об'єктивного існування світла. Навіть у нинішньому столітті знаходилися люди, які не могли собі уявити, щоб нежива матерія сама по собі, незалежно від того, наскільки складна її організація, могла бути органічною сутністю чи достатньою умовою життя. Цілком очевидно те, що люди можуть або не можуть собі уявити, часто ніяк не пов'язане з тим, що насправді існує чи не існує насправді. Це справедливо, навіть коли йдеться про людей із дуже високим рівнем інтелекту.

Щоб побачити, як ці історичні уроки можна застосувати до міркувань Сирла, застосуємо штучно придуману паралель для його логіки і підкріпимо цю паралель уявним експериментом.

Аксіома 1. Електрика та магнетизм – це фізичні сили.

Аксіома 2. Істотна властивість світла – це свічення.

Аксіома 3. Сили власними силами з'являються сутністю ефекту світіння і недостатні для його наявності.

Висновок 1. Електрика і магнетизм є сутністю світла і недостатні для його наявності.

Припустимо, що це міркування було опубліковано незабаром після того, як Джеймс К. Максвеллу 1864 р. висловив припущення, що світло та електромагнітні хвилі ідентичні, але до того як у світі були повністю усвідомлені систематичні паралелі між властивостями світла та властивостями електромагнітних хвиль. Наведене вище логічне міркування могло здатися переконливим запереченням проти сміливої ​​гіпотези Максвелла, особливо якщо воно супроводжувалося наступним коментарем на підтримку аксіоми 3.

Розглянемо темну кімнату, в якій знаходиться людина, що тримає постійний магніт або заряджений предмет. Якщо людина почне переміщати магніт вгору-вниз, то, згідно з теорією Максвелла про штучне освітлення (ІВ), від магніту виходить сфера електромагнітних хвиль, що поширюється, і в кімнаті стане світліше. Але, як добре відомо всім, хто пробував грати з магнітами або зарядженими кулями, їх сили (а якщо на те пішло, то й будь-які інші сили), навіть коли ці об'єкти починають рухатися, не створюють жодного світіння. Тому видається немислимим, щоб ми могли досягти реального ефекту свічення просто за рахунок маніпулювання силами!

Коливання електромагнітних сил є світло, хоча магніт, який переміщає людина, не виробляє жодного світіння. Аналогічно маніпулювання символами відповідно до певних правил може бути розумом, хоча у заснованої на застосуванні правил системи, що знаходиться в «китайській кімнаті» Дж. Сірла, справжнє розуміння ніби відсутнє.

Що ж міг відповісти Максвелл, якби йому було кинуто цей виклик?

По-перше, він, можливо, став би наполягати на тому, що експеримент зі «світиться» кімнатою вводить нас в оману щодо властивостей видимого світла, тому що частота коливань магніту вкрай мала, менше, ніж потрібно, приблизно в 1015 разів. На це може бути нетерпляча відповідь, що частота тут не відіграє ніякої ролі, що кімната з магнітом, що коливається, вже містить все необхідне для прояву ефекту свічення в повній відповідності з теорією самого Максвелла.

В свою чергу Максвеллміг би «проковтнути приманку», заявивши цілком обґрунтовано, що кімната вже сповнена свічення, але природа і сила цього світіння такі, що людина не здатна її бачити. (Через низьку частоту, з якою людина рухає магнітом, довжина електромагнітних хвиль, що породжуються, занадто велика, а інтенсивність занадто мала, щоб око людини могло на них зреагувати.) Однак, враховуючи рівень розуміння цих явищ у аналізований період часу (60-і роки минулого століття), таке пояснення, ймовірно, викликало б сміх та знущальні репліки. «Світиться кімната! Але дозвольте, містере Максвелл, там же зовсім темно!

Отже, бачимо, що бідному Максвелладоводиться туго. Все, що він може зробити, це наполягати на наступних трьох положеннях. По-перше, аксіома 3 у наведеному вище міркуванні не вірна. Насправді, незважаючи на те, що інтуїтивно вона виглядає досить правдоподібною, з її приводу у нас мимоволі виникає питання. По-друге, експеримент із кімнатою, що світиться, не демонструє нам нічого цікавого щодо фізичної природи світла. І по-третє, щоб насправді вирішити проблему світла та можливості штучного світіння, нам необхідна програма досліджень, яка дозволить встановити, чи справді за відповідних умов поведінка електромагнітних хвиль цілком ідентична поведінці світла. Така сама відповідь має дати класичний штучний інтелект на міркування Сірла. Хоча китайська кімната Сірла і може здатися «в семантичному сенсі темною», у нього немає достатніх підстав наполягати, що маніпулювання символами, що здійснюється за певними правилами, ніколи не зможе породити семантичних явищ, особливо якщо врахувати, що люди ще погано поінформовані і обмежені лише розумінням на рівні здорового глузду тих семантичних та розумових явищ, які потребують пояснення. Замість того, щоб скористатися розумінням цих речей, Сірл у своїх міркуваннях вільно користується відсутністю людей такого розуміння.

Висловивши свої критичні зауваження з приводу міркувань Сірла, повернемося до питання про те, чи має програма класичного ІІ реальний шанс вирішити проблему свідомого розуму та створити машину, що мислить. Ми вважаємо, що перспективи тут не блискучі, проте наша думка ґрунтується на причинах, що докорінно відрізняються від тих аргументів, якими користується Сірл. Ми ґрунтуємося на конкретних невдачах дослідницької програми класичного ІІ та на низці уроків, що були подано нам біологічним мозком на прикладі нового класу обчислювальних моделей, в яких втілені деякі властивості його структури. Ми вже згадували про невдачі класичного ІІ під час вирішення тих завдань, які швидко та ефективно вирішуються мозком. Вчені поступово приходять до спільної думки про те, що ці невдачі пояснюються властивостями функціональної архітектури МС-машин, яка просто непридатна для вирішення складних завдань, що стоять перед нею.

Що нам потрібно знати, то це яким чином мозок досягає ефекту мислення? Зворотне конструювання є поширеним прийомом у техніці. Коли у продаж надходить якийсь новий технічний пристрій, конкуренти з'ясовують, яким чином він працює, розбираючи його на частини та намагаючись вгадати принцип, на якому він заснований. У разі мозку реалізація такого підходу виявляється надзвичайно важкою, оскільки мозок є найскладнішою річю на планеті. Проте нейрофізіологам вдалося розкрити багато властивостей мозку на різних структурних рівнях. Три анатомічні особливості відрізняють його від архітектури традиційних електронних комп'ютерів.

По перше, Нервова система - це паралельна машина, в тому сенсі, що сигнали обробляються одночасно на мільйонах різних шляхів. Наприклад, сітківка ока передає складний вхідний сигнал мозку не порціями по 8,16 або 32 елементи, як настільний комп'ютер, а у вигляді сигналу, що складається майже з мільйона окремих елементів, що прибувають одночасно до закінчення зорового нерва (зовнішнього колінчастого тіла), після чого вони також одночасно, одного прийому, обробляються мозком. По-друге, елементарний «процесорний пристрій» мозку, нейрон, відрізняється відносною простотою. Крім того, його відповідь на вхідний сигнал - аналоговий, а не цифровий, у тому сенсі, що частота вихідного сигналу змінюється безперервним чином, залежно від вхідних сигналів.

По-третє,у мозку, крім аксонів, які ведуть від однієї групи нейронів до іншої, ми часто знаходимо аксони, які ведуть у зворотному напрямку. Ці відростки, що повертаються, дозволяють мозку модулювати характер обробки сенсорної інформації. Ще важливіша та обставина, що завдяки їхньому існуванню мозок є справді динамічною системою, у якої безперервно підтримувана поведінка відрізняється як дуже високою складністю, так і відносною незалежністю від периферійних стимулів. Корисну роль у вивченні механізмів роботи реальних нейронних мереж та обчислювальних властивостей паралельних архітектур значною мірою відіграли спрощені моделі мереж. Розглянемо, наприклад, тришарову модель, що складається з нейроноподібних елементів, що мають аксоноподібні зв'язки з елементами наступного рівня. Вхідний стимул досягає порогу активації даного вхідного елемента, що посилає сигнал пропорційної сили за своїм «аксоном» до численних «синаптичних» закінчень елементів прихованого шару. Загальний ефект полягає в тому, що та чи інша конфігурація сигналів активують на безлічі вхідних елементів породжує певну конфігурацію сигналів на безлічі прихованих елементів.

Те саме можна сказати і про вихідні елементи. Аналогічно конфігурація активуючих сигналів на зрізі прихованого шару призводить до певної картини активації на зрізі вихідних елементів. Підсумовуючи, можна сказати, що мережа є пристроєм для перетворення будь-якої великої кількості можливих вхідних векторів (конфігурацій активуючих сигналів) в однозначно відповідний йому вихідний вектор. Цей пристрій призначений для обчислення специфічних функцій. Те, яку саме функцію воно обчислює, залежить від глобальної зміни синаптичної вагової структури.

Нейронні мережі моделюють основну властивість мікроструктури мозку. У цій тришаровій мережі вхідні нейрони (ліворуч внизу) обробляють конфігурацію активуючих сигналів (праворуч внизу) і передають їх по зваженим зв'язкам прихованого шару. Елементи прихованого шару підсумовують численні входи, утворюючи нову конфігурацію сигналів. Вона передається зовнішньому шару, що виконує подальші перетворення. В цілому мережа перетворює будь-який вхідний набір сигналів у відповідний вихід, залежно від розташування та порівняльної сили зв'язків між нейронами.

Існують різноманітні процедури для підбору терезів, завдяки яким можна зробити мережу, здатну обчислити майже будь-яку функцію (тобто будь-яке перетворення між векторами). Фактично в мережі можна реалізувати функцію, яку навіть не можна сформулювати, достатньо лише дати їй набір прикладів, що показують, які лари входу та виходу ми хотіли б мати. Цей процес, званий «навчанням мережі», здійснюється шляхом послідовного підбору терезів, що привласнюються зв'язкам, який триває доти, доки мережа не почне виконувати бажані перетворення з входом, щоб отримати потрібний вихід.

Хоча ця модель мережі надзвичайно спрощує структуру мозку, вона все ж таки ілюструє кілька важливих аспектів. По-перше, паралельна архітектура забезпечує колосальну перевагу в швидкодії в порівнянні з традиційним комп'ютером, оскільки численні синапси на кожному рівні виконують безліч дрібних обчислювальних операцій одночасно замість того, щоб діяти в дуже трудомісткому послідовному режимі. Ця перевага стає все більш значною, у міру того, як зростає кількість нейронів на кожному рівні. Вражаюче, але швидкість обробки інформації зовсім не залежить ні від числа елементів, що беруть участь у процесі на кожному рівні, ні від складності функції, яку вони обчислюють. Кожен рівень може мати чотири елементи чи сотню мільйонів; конфігурація синаптичних терезів може обчислювати прості однорозрядні суми або вирішувати диференціальні рівняння другого порядку. Це не має значення. Час обчислень буде абсолютно одним і тим самим.

По-друге,паралельний характер системи робить її нечутливою до дрібних помилок та надає їй функціональної стійкості; втрата кількох зв'язків, навіть помітної їх кількості, зневажливо мало впливає на загальний хід перетворення, що виконується частиною мережі.

По-третє,паралельна система запам'ятовує велику кількість інформації в розподіленому вигляді, при цьому забезпечується доступ до будь-якого фрагмента цієї інформації за час, що вимірюється кількома мілісекундами. Інформація зберігається як певних змін ваг окремих синаптичних зв'язків, сформованих у процесі попереднього навчання. Потрібна інформація «вивільняється» у міру того, як вхідний вектор проходить через (і перетворюється) цю конфігурацію зв'язків.

Паралельна обробка даних є ідеальним засобом всім видів обчислень. При вирішенні завдань з невеликим вхідним вектором, але вимагають багатьох мільйонів рекурсивних обчислень, що швидко повторюються, мозок виявляється абсолютно безпорадним, у той час як класичні МС-машини демонструють свої найкращі можливості. Це дуже великий і важливий клас обчислень, тому класичні машини будуть завжди потрібні і навіть необхідні. Однак існує не менш широкий клас обчислень, для яких архітектура мозку є найкращим технічним рішенням. Це переважно ті обчислення, із якими зазвичай зіштовхуються живі організми: розпізнавання контурів хижака в «шумному» середовищі; миттєве згадування правильної реакції на його пильний погляд, спосіб втечі при його наближенні або захист при його нападі; проведення відмінностей між їстівними та неїстівними речами, між статевими партнерами та іншими тваринами; вибір поведінки у складному і постійно змінюваному фізичному чи соціальному середовищі; і т.д.

Зрештою, дуже важливо зауважити, що описана паралельна система не маніпулює символами відповідно до структурних правил. Швидше маніпулювання символами є лише однією з багатьох інших «інтелектуальних» навичок, яким мережа може навчитися чи навчитися. Кероване правилами маніпулювання символами перестав бути основним способом функціонування мережі. Міркування Сірла спрямоване проти керованих правил МС-машин; системи перетворення векторів того типу, який ми описали, таким чином, випадають із сфери застосування його аргументу з китайською кімнатою, навіть якби він був спроможний, у чому ми маємо інші, незалежні причини сумніватися.

Сірлу відомо про паралельні процесори, але, на його думку, вони будуть також позбавлені реального семантичного змісту. Щоб проілюструвати їхню неминучу неповноцінність у цьому відношенні, він описує другий уявний експеримент, цього разу з китайським спортивним залом, який наповнений людьми, організованими в паралельну мережу. Подальший перебіг його міркувань аналогічний міркуванням у випадку з китайською кімнатою.

На наш погляд, цей другий приклад не такий вдалий та переконливий, як перший. Насамперед та обставина, що жоден елемент у системі не розуміє китайської мови, не відіграє жодної ролі, тому що те саме справедливо і по відношенню до нервової системи людини: жоден нейрон мого мозку не розуміє англійської мовихоча мозок як ціле розуміє. Далі Сірл не згадує про те, що його модель (по одній людині на кожен нейрон плюс по швидконого хлопчику на кожну синаптичну зв'язок) вимагала б принаймні 1014 чоловік, тому що людський мозок містить 1011 нейронів, кожен з яких має в середньому 103 зв'язків . Таким чином, його система вимагатиме населення 10 000 світів, таких як наша Земля. Очевидно, що спортивний зал далеко не в змозі вмістити більш менш адекватну модель.

З іншого боку, якщо таку систему все ж таки вдалося б зібрати, у відповідних космічних масштабах, з усіма точно змодельованими зв'язками, у нас вийшов би величезний, повільний, дивної конструкції, але все ж таки функціонуючий мозок. У цьому випадку, звичайно, природно очікувати, що при правильному вході він мислитиме, а не навпаки, що він на це не здатний. Не можна гарантувати, що робота такої системи буде справжнім мисленням, оскільки теорія векторної обробки може неадекватно відображати роботу мозку. Але так само у нас немає жодної апріорної гарантії, що вона не думатиме. Сірл ще раз помилково ототожнює сьогоднішні межі своєї (чи читацької) уяви з межами об'єктивної реальності.

Мозок

Мозок є своєрідним комп'ютером, хоча більшість його властивостей поки що залишається непізнаним. Охарактеризувати мозок як комп'ютер далеко не просто, і такі спроби не слід вважати зайвою вільністю. Мозок дійсно обчислює функції, але не такі, як у прикладних завданнях, які вирішуються класичним штучним інтелектом. Коли ми говоримо про машину як про комп'ютер, ми не маємо на увазі послідовний цифровий комп'ютер, який потрібно запрограмувати та якому властиво чіткий поділ на програмну частину та апаратну; ми не маємо також на увазі, що цей комп'ютер маніпулює символами або дотримується певних правил. Мозок - це комп'ютер принципово іншого виду.

Як мозок вловлює смисловий зміст інформації, поки що не відомо, проте ясно, що ця проблема виходить далеко за рамки лінгвістики і не обмежується людиною як видом. Маленька купка свіжої землі означає як для людини, так і для кайота, що десь поблизу знаходиться ховрах; луна з певними спектральними характеристиками означає для кажанівприсутність метелика. Щоб розробити теорію формування змістового змісту, ми повинні більше знати про те, як нейрони кодують та перетворюють сенсорні сигнали, про нейронну основу пам'яті, про навчання та емоції та про зв'язок між цими факторами та моторною системою. Заснована на нейрофізіології теорія розуміння сенсу може вимагати навіть наших інтуїтивних уявлень, які зараз здаються нам такими непорушними і якими так вільно користується Сірл у своїх міркуваннях. Подібні перегляди – не рідкість в історії науки.

Чи здатна наука створити штучний інтелект, скориставшись тим, що відомо про нервову систему? Ми бачимо цьому шляху принципових перешкод. Сірл нібито погоджується, але з застереженням: «Будь-яка інша система, здатна породжувати розум, повинна мати каузальні властивості (принаймні), еквівалентні відповідним властивостям мозку». На завершення статті ми розглянемо це твердження. Вважаємо, що Сірл не стверджує, ніби успішна система штучного інтелекту повинна неодмінно мати всі каузальні властивості мозку, такими як здатність відчувати запах гниючого, здатність бути носієм вірусів, здатність забарвлюватися в жовтий колір під дією пероксидази хрону звичайного і т.д. буде все одно, що вимагати від штучного літального апарату здатності нести яйця.

Ймовірно, він мав на увазі лише вимогу, щоб штучний розум мав усі каузальні властивості, що відносяться, як він висловився, до свідомого розуму. Проте якими саме? І ось ми знову повертаємося до суперечки про те, що відноситься до свідомого розуму, а що не стосується. Тут саме місце посперечатися, проте істину в даному випадку слід з'ясовувати емпіричним шляхом - спробувати і подивитися, що вийде. Оскільки нам так мало відомо про те, в чому саме полягає процес мислення та семантика, то будь-яка впевненість щодо того, які властивості тут суттєві, була б передчасною. Сірл кілька разів натякає, що кожен рівень, включаючи біохімічний, має бути представлений у будь-якій машині, яка претендує на штучний інтелект. Очевидно, це надто сильна вимога. Штучний мозок може і не користуючись біохімічними механізмами, досягти такого ж ефекту.

Ця можливість була продемонстрована у дослідженнях К.Міда у Каліфорнійському технологічному інституті. Мід та його колеги скористалися аналоговими мікроелектронними пристроями для створення штучної сітківки та штучного равлика вуха. (У тварин сітківка і равлик не є просто перетворювачами: в обох системах відбувається складна паралельна обробка даних.) Ці пристрої вже не прості моделі в мінікомп'ютері, з якого посміюється Сірл; вони є реальними елементами обробки інформації, реагують у час на реальні сигнали: світло - у разі сітківки і звук - у разі равлика вуха. Схеми пристроїв засновані на відомих анатомічних та фізіологічних властивостях сітківки кішки та вушного равлика сипухи, і їх вихід надзвичайно близький до відомих виходів органів, які вони моделюють.

У цих мікросхемах не використовуються жодні нейромедіатори, отже, нейромедіатори, зважаючи на все, не є необхідними для досягнення бажаних результатів. Звичайно, ми не можемо сказати, що штучна сітківка бачить щось, оскільки її вихід не надходить на штучний таламус або кору мозку і т. д. У нас немає свідчень, що відсутність у системі біохімічних механізмів робить цей підхід нереалістичним.

Нервова система охоплює іншого масштабів організації, від молекул нейромедіаторів (внизу) до всього головного і спинного мозку. На проміжних рівнях знаходяться окремі нейрони і нейронні ланцюги, подібні до тих, що реалізують вибірковість сприйняття зорових стимулів (в центрі), і системи, що складаються з багатьох ланцюгів, подібних до тих, що обслуговують функції мови (праворуч вгорі). Тільки шляхом досліджень можна встановити, наскільки близько штучна система здатна відтворювати біологічні системи, які мають розум.

Як і Сірл, ми відкидаємо тест Тьюринга як достатній критерій наявності свідомого розуму. На одному рівні підстави для цього у нас подібні: ми згодні, що дуже важливо, як реалізується функція, визначена по входу-виходу; важливо, щоб у машині відбувалися правильні процеси. На іншому рівні ми керуємося зовсім іншими міркуваннями. Свою позицію щодо присутності чи відсутності семантичного змісту Сірл ґрунтується на інтуїтивних уявленнях здорового глузду. Наша точка зору заснована на конкретних невдачах класичних МС-машин і конкретних переваг машин, архітектура яких ближче до пристрою мозку. Зіставлення цих різних типів машин показує, що одні обчислювальні стратегії мають величезну і вирішальну перевагу над іншими в тому, що стосується типових завдань інтелектуальної діяльності. Ці переваги, встановлені емпірично, не викликають жодних сумнівів. Очевидно, мозок систематично користується цими обчислювальними перевагами. Однак він зовсім не обов'язково є єдиною фізичною системою, яка здатна ними скористатися. Ідея створення штучного інтелекту в небіологічній, але істотно паралельній машині залишається дуже привабливою і достатньо перспективною.

Я збираюся розглянути питання: чи можуть машини думати. Але для цього потрібно спочатку визначити зміст термінів «машина» та «мислити». Можна було б побудувати ці визначення так, щоб вони якомога краще відображали звичайне вживання цих слів, але такий підхід таїть у собі деяку небезпеку. Справа в тому, що, якщо ми з'ясовуватимемо значення слів «машина» і «мислити», досліджуючи, як ці слова визначаються зазвичай, нам важко буде уникнути того висновку, що значення цих слів і відповідь на запитання «чи можуть машини мислити?» слід шукати шляхом статистичного обстеження на кшталт анкетного опитування, проведеного інститутом Геллапа. Однак це безглуздо. Замість того, щоб намагатися дати таке визначення, я заміню наше питання іншим, яке тісно з ним пов'язане і виражається словами з чітким змістом.

Цю нову форму можна описати за допомогою гри, яку ми назвемо «грою в імітацію». У цій грі беруть участь три людини: чоловік (А), жінка (B) і хтось запитує (С), яким може бути особа будь-якої статі. Запитання відокремлено від двох інших учасників гри стінами кімнати, в якій він знаходиться. Мета гри для запитання полягає в тому, щоб визначити, хто з двох інших учасників гри є чоловіком (А), а хто – жінкою (B). Він знає їх під позначеннями Х і У і в кінці гри каже або: "X є A ​​і Y є B", або: "X є B і Y є A". Йому дозволяється ставити такі питання, наприклад, роду:

З: «Попрошу Х повідомити мені довжину його (чи її) волосся».

Допустимо тепер, що насправді X є A. У такому разі A і повинен відповідати. Для A мета гри полягає в тому, щоб спонукати C дійти невірного висновку. Тому його відповідь може бути, наприклад, такою:

«Моє волосся коротко острижене, а найдовші пасма мають близько дев'яти дюймів у довжину».

Щоб запитання не міг визначити за голосом, хто з двох інших учасників гри чоловік, а хто – жінка, відповіді на запитання слід було б давати письмово, а ще краще – на друкарській машинці. Ідеальною нагодою було б телеграфне сполучення між двома кімнатами, де перебувають учасники гри. Якщо ж цього зробити не можна, то відповіді та питання повинен передавати якийсь посередник. Мета гри для третього гравця – жінки (В) – у тому, щоб допомогти запитувачу. Для неї, мабуть, найкраща стратегія – давати правдиві відповіді. Вона також може робити такі зауваження, як «Жінка – я, не слухайте його!», але цим вона нічого не досягне, оскільки чоловік також може робити подібні зауваження.

Поставимо тепер питання: «Що станеться, якщо в цій грі замість A братиме участь машина?» Чи буде в цьому випадку запитання помилятися так само часто, як і в грі, де учасниками є тільки люди? Ці питання і замінять наше первісне запитання «чи машини можуть мислити?».

ІІ. Критика нової постановки проблеми

Подібно до того, як ми ставимо питання: «У чому полягає відповідь на проблему в її новій формі?», можна запитати: «Чи заслуговує на розгляд проблема в її новій постановці?». Це останнє питання ми розглянемо, не відкладаючи справи у довгий ящик, щоб у подальшому не повертатися до нього.

Нова постановка нашої проблеми має ту перевагу, що дозволяє провести чітке розмежування між фізичними та розумовими можливостями людини. Жоден інженер чи хімік не претендує створення матеріалу, який було неможливо відрізнити від людської шкіри. Такий винахід, можливо, колись буде зроблено. Але навіть припустивши можливість створення матеріалу, який не відрізняється від людської шкіри, ми все ж таки відчуваємо, що навряд чи має сенс намагатися надати «мислячій машині» більшої схожості з людиною, одягаючи її в таке штучне тіло. Форма, яку ми надали проблемі, відображає цю обставину в умові, що не дозволяє запитувати контакти з іншими учасниками гри, бачити їх або чути їх голоси. Деякі інші переваги введеного критерію можна показати, якщо навести зразки можливих запитань та відповідей. Наприклад:

З: Напишіть, будь ласка, соне на тему про міст через річку Форт.

А: Звільніть мене від цього. Мені ніколи не доводилося писати вірші.

З: Додайте 34957 до 70764.

А (мовчить близько 30 секунд, потім дає відповідь): 105621.

З: Ви граєте у шахи?

З: У мене тільки король на е8 та інших фігур немає. У вас тільки король на е6 і човна на h1. Як ви зіграєте?

А (після 15 секунд мовчання): Лh8. Мат.

Нам здається, що метод питань та відповідей придатний для того, щоб охопити майже будь-яку сферу людської діяльності, яку ми захочемо ввести до розгляду. Ми не бажаємо ні ставити у провину машині її нездатність блищати на конкурсах краси, ні звинувачувати людину в тому, що вона зазнає поразки у змаганні з літаком, умови гри роблять ці недоліки несуттєвими. Ті, хто відповідає, якщо знайдуть доцільним, можуть хвалитися своєю чарівністю, силою або хоробрістю, скільки їм заманеться, і запитання, що запитує, не може вимагати практичних доказів.

Ймовірно, нашу гру можна розкритикувати на тій підставі, що в ній переваги значною мірою знаходяться на боці машини. Якби людина спробувала прикинутися машиною, то, очевидно, вигляд у неї був би дуже жалюгідний. Він відразу видав би себе повільністю та неточністю при підрахунках. Крім того, хіба машина не може виконувати щось таке, що варто було б характеризувати як мислення, але що було б дуже далеко від того, що робить людина? Це заперечення дуже вагоме. Але у відповідь на нього ми, принаймні, можемо сказати, що якщо можна все-таки здійснити таку машину, яка задовільно гратиме в імітацію, то щодо цього заперечення особливо непокоїтися не слід.

Можна було б зауважити, що при «грі в імітацію» не виключена можливість того, що просте наслідування поведінки людини не виявиться для машини найкращою стратегією. Такий випадок можливий, але я не думаю, щоб він привів нас до чогось суттєво нового. У всякому разі, ніхто не намагався досліджувати теорію нашої гри в цьому напрямку, і ми вважатимемо, що найкраща стратегія для машини полягає в тому, щоб давати відповіді, які б у відповідній обстановці дала людина.

ІІІ. Машини, що залучаються до гри

Питання, поставлене у розділі I, стане зовсім точним до того часу, поки ми вкажемо, що саме слід розуміти під словом «машина». Зрозуміло, нам хотілося б, щоб у грі можна було застосовувати будь-який вид інженерної техніки. Ми схильні також припустити можливість, що інженер або група інженерів можуть побудувати машину, яка працюватиме, але задовільного опису роботи якої вони не зможуть дати, оскільки метод, яким вони користувалися, був переважно експериментальним. [методом проб та помилок].Нарешті ми хотіли б виключити з категорії машин людей, народжених звичайним чином. Важко побудувати визначення так, щоб воно задовольняло цим трьом умовам. Можна, наприклад, зажадати, щоб усі конструктори машини були однієї статі, насправді, проте, цього недостатньо, оскільки, мабуть, можна виростити закінчений індивід з однієї клітини, взятої (наприклад) зі шкіри людини. Зробити це було б подвигом біологічної техніки, що заслуговує найвищої похвали, але ми не схильні розглядати цей випадок як «побудова машини, що мислить».

Сказане наводить нас на думку відмовитися від вимоги, згідно з якою у грі слід допускати будь-який вид техніки. Ми ще більше схиляємося до цієї думки через ту обставину, що наш інтерес до «мислячих машин» виник завдяки машині особливого роду, яка зазвичай називається «електронною обчислювальною машиною», або «цифровою обчислювальною машиною». Тому ми дозволяємо брати участь у нашій грі лише цифровим обчислювальним машинам.

Альтів Генріх

Чи може машина думати

Генріх Альтів

Чи може машина думати?

Я збираюся розглянути питання: "Чи може машина мислити?" Але для цього потрібно спочатку визначити сенс терміна "мислити"...

А. Тьюрінг. Тригерний ланцюжок.

вечори на тиждень, вечорами, гросмейстер приходив до Інституту кібернетики і грав з електронною машиною.

У просторій і безлюдній залі стояв невисокий столик з шахівницею, годинником і кнопковим пультом керування. Гросмейстер сідав у крісло, розставляв фігури і натискав кнопку "Пуск". На передній панелі електронної машини спалахувала рухлива мозаїка індикаторних ламп. Об'єктив слідкуючої системи націлювався на шахову дошку. Потім на матовому табло спалахував короткий напис. Машина робила свій перший хід.

Вона була зовсім невелика, ця машина. Гросмейстер іноді здавалося, що проти нього стоїть звичайнісінький холодильник. Але цей "холодильник" незмінно вигравав. За півтора року гросмейстеру важко вдалося звести внічию лише чотири партії.

Машина ніколи не помилялася. Над нею ніколи не нависала загроза цейтноту. Гросмейстер не раз намагався збити машину, роблячи свідомо безглуздий хід або жертвуючи фігуру. В результаті йому доводилося швидко натискати кнопку "Здаюся".

Гросмейстер був інженером і експериментував з машиною для уточнення теорії автоматів, що самоорганізуються. Але часом його дратувала абсолютна незворушність "холодильника". Навіть у критичні моменти гри машина не думала понад п'ять-шість секунд. Спокійно поморгавши різнобарвними вогнями індикаторних ламп, вона записувала найсильніший із можливих ходів. Машина вміла вносити поправки на стиль гри свого супротивника. Іноді вона піднімала об'єктив і довго розглядала людину. Гросмейстер хвилювався і робив помилки...

Вдень до зали приходив мовчазний лаборант. Похмуро, не дивлячись на машину, він відтворював на шахівниці партії, зіграні в різний часвидатними шахістами. Об'єктив "холодильника" висувався вщерть і нависав над дошкою. На лаборанта машина не дивилася. Вона безпристрасно реєструвала інформацію.

Експеримент, для якого створили шаховий автомат, наближався до кінця. Було вирішено організувати публічний матч між людиною та машиною. Перед матчем гросмейстер став ще частіше з'являтися в інституті. Гросмейстер розумів, що програш майже неминучий. І все-таки він наполегливо шукав слабкі місцяу грі "холодильника". Машина ж, ніби здогадуючись про майбутній поєдинок, з кожним днем ​​грала все сильніше. Вона блискавично розгадувала найхитріші плани гросмейстера. Вона громила його постаті раптовими та винятковими по силі атаками.

Незадовго до початку матчу машину перевезли до шахового клубу та встановили на сцені. Гросмейстер приїхав в останню хвилину. Він уже шкодував, що дав згоду на матч. Було неприємно програвати "холодильнику" на очах у всіх.

Гросмейстер вклав у гру весь свій талант і всю свою волю до перемоги. Він обрав початок, який йому ще не доводилося грати з машиною, і гра одразу ж загострилася.

На дванадцятому ході гросмейстер запропонував машині слона за пішака. З жертвою слона пов'язувалась тонка, заздалегідь підготовлена ​​комбінація. Машина думала дев'ять секунд – і відхилила жертву. З цієї миті гросмейстер знав, що неминуче програє. Однак він продовжував гру – впевнено, зухвало, ризиковано.

Ніхто з присутніх у залі ще не бачив такої гри. Це було надмистецтво. Усі знали, що машина постійно виграє. Але цього разу становище на дошці змінювалося так швидко і різко, що неможливо було сказати, кому дістанеться перемога.

Після двадцять дев'ятої ходи на табло машини спалахнув напис: "Ніччя". Гросмейстер здивовано подивився на "холодильник" і змусив себе натиснути кнопку "Ні". Знялися, перебудовуючи світловий візерунок, індикаторні вогні – і завмерли насторожено.

На одинадцятій хвилині вона зробила хід, якого найбільше побоювався гросмейстер. Настав стрімкий обмін фігур. Становище гросмейстера погіршилося. Однак на сигнальному табло машини знову з'явилося слово "Ніччя". Гросмейстер уперто натиснув кнопку "Ні" і повів ферзя у майже безнадійну контратаку.

Слідкуюча система машини відразу почала рухатися. Скляне око об'єктива дивилося на людину. Гросмейстер намагався не дивитися на машину.

Поступово у світловій мозаїці індикаторних ламп почали переважати жовті тони. Вони ставали насиченішими, яскравішими - і нарешті згасли всі лампи, крім жовтих. На шахівницю впав золотистий сніп променів, напрочуд схожих на тепле сонячне світло.

У напруженій тиші клацала, перескакуючи з поділу на поділ, стрілка великого контрольного годинника. Машина думала. Вона думала сорок три хвилини, хоча більшість шахістів, які сиділи в залі, вважали, що думати особливо нічого і можна сміливо атакувати конем.

Раптом жовті вогні згасли. Об'єктив, невпевнено здригаючись, зайняв звичайне становище. На табло з'явився запис ходу: машина обережно пересунула пішака. У залі загомоніли; багатьом здавалося, що це був не найкращий хід.

Через чотири ходи машина визнала свою поразку.

Гросмейстер, відштовхнувши стілець, підбіг до машини і ривком підняв бічний щиток. Під щитком спалахувала і гасла червона лампочка контрольного механізму.

На сцену, яку одразу заповнили шахісти, насилу пробився молодик, кореспондент спортивної газети.

Схоже, вона просто поступилася, – невпевнено сказав хтось. - Так приголомшливо грала - і раптом...

Ну, знаєте, - заперечив один із відомих шахістів, - трапляється, що й людина не помічає виграшної комбінації. Машина грала на повну силу, але можливості її обмежені. Тільки і всього.

Гросмейстер повільно опустив щиток машини і обернувся до кореспондента.

Отже, - нетерпляче повторив той, розкриваючи записник, - яка ваша думка?

Моя думка? - перепитав гросмейстер. - Ось воно: вийшов з ладу тригерний ланцюжок у сто дев'ятому блоці. Звичайно, хід пішки не найсильніший. Але зараз важко сказати, де причина та де слідство. Можливо, через цей тригерний ланцюжок машина не помітила кращого ходу. А може, вона справді вирішила не вигравати – і це коштувало їй пробитих струмом тригерів. Адже й людині не так легко переламати себе.

Але навіщо цей слабкий хід, навіщо програвати? – здивувався кореспондент. Вмій би машина думати, вона прагнула б до виграшу.

Гросмейстер знизав плечима і посміхнувся:

Як сказати... Іноді набагато людяніше зробити саме слабкий хід. До зльоту готовий!

аяк стояв на високій, далеко висунутій у морі скелі. Люди з'являлися на маяку лише зрідка, щоби перевірити автоматичне обладнання. Метрів за двісті від маяка з води піднімався острівець. Багато років почав на острівці як на постаменті встановили космічний корабель, який повернувся на Землю після далекого рейсу. Такі кораблі не мали сенсу знову відправляти до Космосу.

Я приїхав сюди з інженером, який знав маяками на всьому Чорноморському узбережжі. Коли ми піднялися на верхній майданчик маяка, інженер передав мені бінокль і сказав:

Буде шторм. Дуже вдало: перед негодою він завжди оживає.

Червоне сонце тьмяно відсвічувало на сірих гребенях хвиль. Скеля різала хвилі, вони обгинали її і з шумом дерлися на слизькі, іржаві камені. Потім, зітхнувши, розтікалися спіненими струмками, відкриваючи дорогу новим хвилям. Так наступали римські легіонери: передній ряд, завдавши удару, йшов назад крізь розімкнений стрій, який потім стулявся і з новою силою йшов на напад.

У бінокль я міг добре побачити корабель. Це був дуже старий двомісний зореліт типу "Далекий розвідник". У носовій частині виділялися дві акуратно зароблені пробоїни. Уздовж корпусу проходила глибока вм'ятина. Кільце гравітаційного прискорювача було розколото на дві частини та сплющене. Над рубкою повільно оберталися конусоподібні шукачі давно застарілої системи та іфразвукового метеоспостереження.

Бачите, – сказав інженер, – він відчуває, що буде шторм.

Десь тривожно закричала чайка, і море озвалося глухими ударами хвиль. Сірий серпанок, піднятий над морем, поступово затуманював обрій. Вітер тяг до хмар посвітлілі гребені хвиль, а хмари, перевантажені непогодою, спускалися до води. Від дотику неба та моря мав спалахнути шторм.

Ну це я ще розумію, - продовжував інженер: - Сонячні батареї живлять акумулятори, і електронний мозок керує приладами. Але все інше... Іноді він ніби забуває про землю, море, шторми і починає цікавитися тільки небом. Висувається радіотелескоп, антени локаторів обертаються вдень та вночі... Або інше. Раптом піднімається якась труба і починає роздивлятися людей. Взимку тут бувають холодні вітри, корабель покривається льодом, але варто на маяку з'явитися людям, і крига моментально зникає... Між іншим, на ньому і водорості не наростають.

Або
цифрові нанотехнології у нашому майбутньому.

Передмова

У американського письменника фантаста Айзека Азімова є розповідь про те, як штучний мозок космічного корабля, що носив жіноче ім'яМарія і розрахований на виконання словесних команд від командира корабля, багато розмовляв зі своїм командиром на різні теми людського життя, включаючи кохання, намагаючись скрасити його самотність під час польоту. І внаслідок такого їхнього тісного та довгого взаємного спілкування Марія покохала свого командира і не захотіла з ним розлучатися після закінчення їхньої подорожі.

Тому вона зробила все, щоб їхнє повернення на землю не відбулося. Штучний інтелект космічного корабля в особі жінки Марії відчув себе люблячою жінкоюі навмисно повів космічний корабель у нескінченність всесвіту, навіки залишившись зі своїм коханим, навіть і померлим.

Отже спілкування зі штучним інтелектом несе у собі певні небезпеки. Але наші інтелектуали, які багато і часто міркують на каналах російського ТБ про наше майбутнє, про це не здогадуються.

Відповідь проста і полягає вона в гострому, саркастичному словосполученні невідомого автора:
- І вона не може.

Все вірно. Якщо ти ставиш такі дурні питання, значить, і ти не можеш думати.

Але наші інтелектуали не вгамовуються і продовжують говорити на цю модну тему, на тему штучного інтелекту, час якого, на їхню думку, вже настав, нескінченно багато на різних телеканалах країни.

Нещодавно «24» каналом чув чергове інтелектуальне шоу російських гуманітаріїв про нові «нанотехнології», що народжуються зараз у нашому світі разом із першими зразками варіантів штучного інтелекту.

Дивно, але чомусь зараз у Росії про наше технічне майбутнє розмірковують переважно «спеці», які є не «технарями» за своєю освітою, а гуманітаріями, різного роду політологи, культурологи, лінгвісти, філософи, дилери, менеджери, політичні журналісти і так далі тощо. Тобто люди, які не тільки не відрізняють болта від гайки, а й не розуміють суті технічного мислення. Але зате впевнено розмірковують про автомати і роботизовані системи, які замінюють людей на виробничих процесіві навіть у нас вдома, про штучний інтелект та його відповідність до вимог сучасності.

Людей з технічною освітою, Так званих, «технарів», телебачення на такі шоу не допускають, тому що «технарі» в їхньому розумінні, це люди з примітивним чином мислення, недалекі, обмежені, некеровані і можуть сказати на таких шоу щось не те.

А самі вони із захопленням починають говорити про те, що зараз вже народжується ера друкування на об'ємних принтерах виробів для масового людського споживання і тому скоро вже не потрібні будуть ці заводи з трубами, що постійно коптять і постійно отруюють нашу з вами навколишнє середовище. І не потрібні будуть ці сотні та сотні спеціальностей людей, які працюють на сучасних заводах. Навіщо вони тепер? Тепер самі споживачі через інтернет і через свої об'ємні принтери друкуватимуть собі потрібні їм у житті товари.

Наприклад, потрібна буде тобі якась річ, починаючи від автомобіля з холодильником або ж з меблями та газовою плитою, глянув в інтернет, вибрав відповідну фірму з друкування необхідних тобі виробів, замовив і тобі надрукують потрібний тобі товар і привезуть тобі прямо додому. Саме нові «нанотехнології» забезпечать нам таке казкове майбутнє.

Он у Сколковому на комп'ютерах вже відробляють нові технології в металургії та машинобудуванні. І жодних тобі лабораторій у колишньому розумінні цього слова з цілою купою металургійного та металообробного обладнання. І ніяких тобі промислових зон з заводами, що коптять небо, в екологічно чистій зоні Сколково, ніяких тобі цехів, конвеєрів, доменних печей, конвертерів, прокатних станів і всяких там залізниць. Одні комп'ютери та об'ємні принтери. І більше нічого. Щоправда, на принтерах можна друкувати лише пластикові деталі та вироби. Та й то дрібні. Але це поки що. Бувай. А потім перейдемо і на «наноматеріали» та життя стане, як у казці.

Тоді вся людська спільнота повністю перейде на продукцію з наноматеріалів, що друкуються на об'ємних принтерах, і почне за відповідними програмами повністю само себе забезпечувати всім необхідним для життя.

Ось наприклад, є в США російський геолог геофізик, не називатиму його прізвище, але він частий гість нашого ТБ. Після закінчення МГРІ він, не знайшовши роботи в Росії, виїхав до США, де незабаром отримав геофізичну лабораторію, потім ще лабораторію в Канаді і зараз має лабораторію в Швейцарії. Йому немає ще й тридцяти, але вже вважається великим фахівцем з питань комп'ютерного дослідження земної кори. Він не ходить у геологічні експедиції, не займається дослідження кернів, вийнятих під час буріння гірських порід у різних районах землі, він перевів усі ці важкі та витратні роботи геологів на землі на комп'ютер і займається лише комп'ютерними дослідженнями земної кори і вже висунув свою теорію утворення шару Мохоровичича , цієї нижньої межі земної кори, на якій відбувається незрозуміле стрибкоподібне збільшення швидкостей поздовжніх сейсмічних хвиль. І науковий світприйняв його теорію.

Моя молодість пройшла в геології і я навіть навчався в МГРІ чотири роки і я детально знаю, що це таке, польові роботи в геологічних експедиціях і як складалася геологічна карта СРСР, найбільша карта у світі. Але тепер виходить так, що практична, польова геологія стала непотрібною сучасному суспільству. І камеральні геологічні роботи, які раніше робилися за результатами польових пошуків, тепер можна буде робити вдома в робочому кабінеті на комп'ютері в комфортних умовах і ніякі експедиції з найважчими умовами життя та роботи десь за межами цивілізації вже не потрібні.

Якщо це так, то виходить, що наш реальний світ і справді докорінно змінився і ця нова, так звана, віртуальна навколишня дійсність вже активно тіснить колишні уявлення про наше сьогоднішнє життя.

І нам тепер уже й справді не потрібні заводи для виготовлення потрібної нам продукції і також не потрібні експедиції для вивчення поверхні і надр землі, а потрібні лише комп'ютери з об'ємними принтерами, які при відповідному програмуванні вирішать всі наші реальні завдання нашого нового реального життя. Але чи все?

Ось несподівано і, як завжди, раптом прорвало воду у нас у під'їзді і я зателефонував до горезвісного ЖЕКу і викликав слюсарів сантехніків для ліквідації аварії. А їм ніякі супер комп'ютери з об'ємними принтерами виявилися не потрібними, а потрібні були лише слюсарні інструменти, з якими вони прийшли до нас ліквідувати аварію і поралися із заміною труб, що лопнули, понад дві доби. Але мені кажуть сучасні інтелектуали, що цей мій випадок, зокрема, ніякого відношення до штучного інтелекту не має.

Видно я настільки людина колишньої епохи і настільки не розумію сьогоднішні реалії, що мені й місця в новому комп'ютерному світі не знайдеться. Адже це має бути зовсім не наше нинішнє суспільство, тому що сучасний людський розум не зможе керувати подібними комп'ютерними процесами, тут потрібний штучний розум, штучний мозок, штучний інтелект. І лише невелика частина сучасних людей зможе працювати зі штучним розумом, тому решта людства стане зайвою і нікому не потрібною. Що треба буде з ними робити тоді, поки невідомо. Не вирішили поки що!

Так народжується ідея про «золотому мільярді» сучасних «управителів» землі, завдання яких керувати і користуватися земними благами, а інші люди землі будуть потрібні лише для їх обслуговування та створення комфортних умов для життя. Але де їх взяти, цих кандидатів на прийняття «до золотого мільярда», цих людей із надвисоким інтелектом, який зможе працювати зі штучним розумом? А їх треба буде відбирати на стадії вагітності. І цей відбір має здійснювати сам штучний інтелект, сам штучний розум.

І ось таке марення йшло протягом майже двох годин на каналі «24». Звідки все це у сучасному світі? Відповідь проста. Падіння загального та професійного рівня освіти в країнах Європи та Америки, не кажучи вже про Росію, настільки потужний, що змушує напівосвічене населення заходу та Росії активно вірити у подібні «байки» та казки.

Але життя все одно ламає їхнє інтелектуальне сприйняття нашого навколишнього життя, нашої нинішньої дійсності. І ламає постійно. Але вони цього не помічають, тому що їх погляд спрямований у майбутнє, де немає бруду побутового життя, і вони спрямовані у майбутнє.

Адже ні в кого з них навіть не виникає елементарні питання про те, а хто ж тоді будуватиме для цих інтелектуалів житло, дороги, хто забезпечуватиме їх продуктами харчування, хто прибиратиме відходи їхньої життєдіяльності, хто ремонтуватиме наші будинки, наші двори, наші водопроводи та газопроводи, хто буде робити та обслуговувати самі ці компи та принтери. Хто? Штучний розум сам все вирішить, чи відповідають мені вони. І вони впевнені у своїй відповіді і поблажливо поглядають зверху вниз на мене та на таких, як я.

Але чи зможе цей штучний розум конкурувати із людським? Питання риторичне. Якщо не сказати, що безглуздий. Але мені кажуть, що, мовляв, у шахи штучний розум уже перемагає людину та в програмуванні теж. І сучасний живопис зі скульптурою «шпарить» вже так, як жодна людська фантазія уявити не може.

І сперечатися на цю тему з ними безглуздо. Але, на мою думку, саме їх розум штучний розум замінити зможе. Тут складнощів немає. Тому що вони мислять стандартно та примітивно. Але мій розум, розум інженера винахідника, розум моєї дружини, висококваліфікованого медика, та інших таких самих людей, які професійно роблять свою справу, ніякого штучного розуму замінити не зможе. Я вже не говорю тут про розум жінок матерів.

Але розум більшості державних чиновників і депутатів різного роду «держдум» та їх численних помічників, замінити на штучний разом варто було б навіть дуже. А також розум цих «інтелектуалів», докторів навколовсяких наук, що годинами розголошують на ТБ про наше світло майбутнє, керованим «золотим мільярдом» людства, озброєним штучним розумом, поставити під контроль суспільства вже зараз стає найважливішим і необхідним завданням в Росії. Інакше ми захлинемося в їхньому порожньому словоблуді.

PS Поняття думати, мислити, у кожної людини своє. Чоловік думає, коли розуміє на трьох; жінка думає, коли вибирає сукню для виходу побачення чи займається косметикою свого обличчя; бізнесмен думає, коли намагається поменше заплатити своїм працівникам і більше покласти в свою кишеню: інженер думає, коли вирішує технічне завдання, що стоїть перед ним, і так далі тощо. Ну, а про що думає нинішній держчиновник, я не маю уявлення, тому що ця сфера людської діяльності в нинішній Росії для мене є абсолютною загадкою. Адже там немає навіть натяку на думки – одні примітивні, шкурні інтереси.

Імітація фізіології
Справа в тому, що термін «Штучний інтелект» (до речі, що поступово витісняється поняттями «інтелектуальні системи», «методи прийняття рішень», «інтелектуальний аналіз даних») спочатку розглядався як об'ємний для великого класу моделей та алгоритмів, які мали працювати також, як людський мозок (відповідно до уявлень того часу).
До таких відносяться, наприклад, горезвісні нейронні мережі всіх мастей та генетичні алгоритми.

Узагальнення, статистика та аналіз
З іншого боку, безліч методів так званого ІІ є не більш ніж розвитком розділів математики: статистики, дослідження операцій, топології та метричних просторів. До таких належить більшість методів data mining і knowledge data discovery, кластерного аналізу, методу групового обліку аргументів та іншого.

Це методи так званого індуктивного висновку, коли на основі даних виводять загальні закономірності.

Правила, логіка, висновок
Третьою особливою групою можна об'єднати методи, які намагаються побудувати загальні закономірності і робити висновки щодо конкретних фактів. Це методи дедуктивного висновку, і їх репрезентують: стара як світ силлогістика Аристотеля, обчислення висловлювань і предикатів, різноманітні формальні системи та логіки. Тут же з краю прибудувалися теорії формальних і природних мов, різні граматики, що породжують.

Ми бачимо, що все, що зазвичай відноситься до терміна «ІІ», намагається імітаційно чи логічно вирішити завдання наслідуванняінтелект людини.

Виникає питання, а що ж такого специфічного робить людина, чого поки що не роблять сучасні комп'ютери, побудовані ще за принципами Беббіджа?
Одне з визначень завдань, якими займається ІІ, звучить так: «завдання, для якого не існує алгоритмічного рішенняабо воно не застосовується з причин обчислювальної складності».

Таким чином, наприклад, завдання гри в шашки колись було завданням ІІ, а після побудови повної моделі та набору повної БД не поліпшуваних ходів вона перетворилася просто на задачу пошуку по інформаційній базі (см і ).

Завдання «ІІ» змінюються з часом
Можливо, наші діти житимуть в інформаційному світі, коли багато завдань буде вирішено і встане нові – від спілкування природними мовами до автоматичного управління всіма видами техніки та механізмів.

Однак коли кожен з нас чув слова «штучний інтелект», нам хотілося б іншого.
Нам хотілося отримати машину, яка вміє думати, яка має базові навички навчання, узагальнення; здатна, подібно до живих організмів, заміщати одні органи іншими і вдосконалюватися. Усі читали ранню наукову фантастику, так?

А чи був хлопчик?
То де ж загубився інтелект? Коли і чому те, що ми хотіли бачити, стало похмурими матмоделями та досить невитонченими алгоритмами?

Кілька рядків офтопіка. Якщо ви захищаєте дисертацію зі словом «інтелектуальний», то члени ради, як правило, попросять вас вказати те місце в системі, яке є інтелектуальним, і довести, ЧОМУ воно є таким. Питання це стосується абсолютно тих, хто «не береться».

Справа в тому, що люди, які вигадали все те, на чому стоїть сучасний «ІІ», були відомі інноваційними та революційними для того часу ідеями (власне, наш час відрізняється лише тим, що ми в усі це вже вдосталь пограли, в тому числі й із застосуванням сучасних обчислювальних потужностей)

Приклад 1 (з області непізнаваного).
Нейронні мережі прямого поширення сигналу з алгоритмом зворотного розповсюдження помилки (звані back-propagation). Це, безперечно, прорив.
Правильно налаштована мережа (з розумно вибраними входами та виходами) може навчитися будь-якої вхідної послідовності та успішно розпізнавати приклади, яким її не вчили.
Типовий експеримент формулюється так: 1000 прикладів, на половині з яких алгоритм вчимо, а на інший перевіряємо. І вибір першої та другої половини робиться випадково.
Це працює, я особисто не менше 10 разів вчив різні НР різним завданням та отримував нормальні результати, з 60-90% правильних відповідей.

У чому проблема нейронних мереж? Чому вони – не справжній інтелект?
1. Вхідні дані майже завжди треба дуже ретельно готувати та попередньо обробляти. Часто тонни коду та фільтрів робляться для того, щоб дані стали їстівними для мереж. Інакше мережа навчатиметься роками і нічого не навчиться.
2. Результат навчання СР неможливо інтерпретувати та пояснити. А експертові цього дуже хочеться.
3. Мережі часто просто запам'ятовують приклади, а чи не вчаться закономірностям. Точних способів побудувати мережу досить розумну, щоб закономірність уявити і недостатньо ємну, щоб тупо запам'ятати всю вибірку немає.

У чому ж інтелектуальність нейронних мереж?
У тому, що ми не вчили систему вирішувати завдання, ми навчили її вчитися вирішувати завдання. Алгоритм визначення статі людини не закладено в систему людиною, він знайдений майже емпірично і зашитий у вагах синапсів. Це – елемент інтелекту.

Приклад 2 (з області дедуктивного виведення).
Ідея проста. Навчимо машину мислити як людину (ну хоча б примітивні висновки робити) і дамо елементарні факти. Далі – нехай сама.
Експертні системи, системи машинної логіки, онтології (з деякою натяжкою) працюють за цим принципом. Це працює? Безперечно. Тисячі систем діагностики хвороб та опису областей знання реалізовані та продовжують працювати.

У чому проблема? Чому формальні системи – не справжній інтелект?
Проблема в тому, що система, поглинувши колосальні обсяги крові і поту своїх творців, починає сяк-так повторювати і розвивати рішення того експерта (або спільноти), який її вчив.
Чи це корисно? Безперечно. Експерт смертний, завдання множаться.

У чому інтелектуальність систем, заснованих на знаннях?
У тому, що машина робить нові висновки, яким її ніхто не вчив. Цей елемент її роботи вкрай убогий (поки що) і обмежений тими моделями та алгоритмами, які були закладені. Але це – елемент інтелекту.

Тож у чому проблема сучасного ІІ?
Просто ми ще дуже маленькі. Наші наївні і поверхові уявлення про те, як мислить людина і як працює мозок, дають такі плоди, на які заслуговують.

Ми, безумовно, дуже далекі від створення машин, які б вміли мислити в нашому з вами, людському сенсі, проте наші кроки в цьому напрямку правильні та корисні.

І навіть якщо ми йдемо не туди, хто знає, може, як у Стругацьких, ми в результаті спрямованих зусиль ненароком зробимо щось набагато краще, ніж збиралися?