Меню
Головна
 
Головна arrow Філософія arrow Історія, філософія і методологія техніки та інформатики
< Попередня   ЗМІСТ   Наступна >

Лекція 5. Соціально-етичні проблеми інформатики

Проблема штучного інтелекту

Роздуми над природою інформатики часто призводять до порівняно комп'ютера з мозком людини. У зв'язку з цим протягом багатьох десятиліть увагу дослідників привертає стаття А. Тюрінга "Обчислювальні машини і розум". Тьюринг був переконаний, що прогрес інформатики буде сприяти її неухильного зростання. Він поставив за мету визначити ступінь ефективності імітації комп'ютером інтелекту людини, для чого запропонував тест, що реалізується за допомогою імітаційної гри. Опрашивающий по черзі задає питання в безособовій формі, наприклад у письмовому вигляді, які знаходяться в ізольованому приміщенні комп'ютера і людині. За обраний проміжок часу експерт повинен ідентифікувати комп'ютер і людини. Якщо йому цього не вдається зробити, то він змушений визнати тотожність обох: комп'ютер, витримав тест, подібний людині, з яким його порівнювали. Тьюринг був переконаний, що до 2000 р. опрашивающий - індивід середнього рівня розвитку - буде в змозі протягом п'яти хвилин відрізнити комп'ютер від людини з вірогідністю не більше 70%. Тьюринг прагнув поставити питання максимально науково, уникаючи розхожих уявлень як про комп'ютерах, так і про мислення людини. Проте термін "думаючі машини" він використовував дуже часто.

Думка експерта

Сер Роджер Пенроуз, відомий англійський вчений, по суті, повторює аргументацію А. Тюрінга: "Мені здаються достатньо обґрунтованими доводи на користь того, що успішно пройдений тест Тюрінга є вказівка на присутність думки, інтелекту, розуміння свідомості. У самому справі, на чому ще можуть ґрунтуватися наші переконання в присутності цих якостей в інших людей, окрім як на розмові з ними?"

А. Тьюринг відмінно усвідомлював, що придуманий ним тест вже за задумом покликаний вказати на відому тотожність комп'ютера і людини. Він справедливо вважав, що його ідея викличе десятки заперечень, і, принаймні, дев'ять з них він передбачив, щоразу показуючи, що вони не спростовують схожість комп'ютера і людини.

1. Математичний аргумент: математичним теоріям притаманні певні обмеження, то ж поширюється і на обчислювальні машини. Звідси робиться висновок, що машинам властиві обмеження, не характерні для мислення людей. Але, по-перше, цей висновок приймається без доказів. По-друге, люди роблять помилки, але при цьому вони продовжують вважати себе досконалими істотами. По-третє, завжди потрібно пам'ятати, що комп'ютери по ряду моментів навіть перевершують людей.

2. Аргумент від свідомості: на відміну від людей комп'ютери не володіють свідомістю, насамперед почуттями. Тьюринг зазначав, що питання про природу свідомості не з'ясовано належним чином. Особливо важливо, що за умови правильних відповідей машини на поставлені їй питання ми не зможемо приписати почуття виключно людині.

3. Аргумент про відсутність у комп'ютера багатьох здібностей людини, зокрема здатності бути розумним, кмітливим, красивим, доброзичливим, ініціативним, мати почуття гумору, відрізняти добро від зла, здійснювати помилки, любити, насолоджуватися їжею, витягувати уроки з життєвого досвіду, правильно використовувати слова, думати про себе самому, реалізовувати різні лінії поведінки, створювати щось принципово нове. На це заперечення Тьюринг відповідає так само, як і на аргумент від свідомості: будь-які сенси зосереджені у відповідях. Про почуттях і емоціях людей слід судити за відповідями людей, а вони можуть бути такими ж, як у комп'ютерів.

4. Аргумент леді Лавлейс: машини роблять лише те, що люди наказують їм, а не щось принципово нове. Тьюринг вважав, що мова йде про позиції, згідно з якою недооцінюється важливість виведення наслідків з причин і загальних принципів.

5. Аргумент про безперервність нервової системи: мається на увазі, що вона не імітується цифровим (дискретним) комп'ютером. Тьюринг зазначав, що дискретність станів комп'ютера не виключає подання будь-яких різновидів безперервності.

6. Аргумент про неформальному характері поведінки людей: вважається, що така поведінка неможливо імітувати за допомогою комп'ютера. Тьюринг не був згоден з цією думкою. Спроба пояснити поведінку людей пов'язана із з'ясуванням правил їх поведінки, а вони підвладні імітації.

7. Аргумент про надчутливе сприйнятті: про явища телепатії, ясновидіння, передбачення і психокинеза. Тьюринг визнавав наявність цих явищ, але вважав, що і їх комп'ютерне подання цілком можливо.

Таким чином, в оцінці можливостей інформатики А. Тьюринг був завзятим оптимістом. Для одного із засновників інформатики така позиція цілком природна і позбавлена нарочитості.

Слабкий і сильний AI. Важливою віхою на шляху розвитку поняття штучного інтелекту - AI (скор. від англ. Artificial intelligence) стала стаття Дж. Серлі (1990), в якій він ввів уявлення про слабкому і сильному штучному интеллекте1. Згідно тези сильного AI належним чином запрограмований комп'ютер володіє свідомістю. В рамках тези про слабкому AI комп'ютер є лише допоміжним пристроєм, що дозволяє поряд з іншими об'єктами вивчати також і мозок. Серл приймає тезу про слабкому AI, але рішуче заперечує проти положення про сильний AI. Суть його заперечень полягає в тому, що комп'ютер маніпулює формальними символами, проте у нього немає интенциональности, спрямованості на об'єкт уваги; можна сказати, що він володіє синтаксисом, але не семантикою. Комп'ютер не розуміє і не мислить.

"Китайська кімната" Джона Серла

Бажаючи бути максимально переконливим, Серл придумав уявний експеримент, який назвав "китайська кімната".

Англієць, що знаходиться в ізольованій кімнаті, має у своєму розпорядженні книги на китайською та англійською мовами, в тому числі словники. Китайської мови англієць не знає, але саме на ньому від нього вимагають відповідей у письмовому вигляді на поставлені питання. Випробуваний начебто справляється з цим завданням, але це враження оманливе. По суті, він, користуючись словниками як деякими програмами, механічно переводить дійсно розуміються їм англійські вирази на мову китайських ієрогліфів. Випробуваний діє подібно до комп'ютера: він маніпулює ієрогліфами, але не розуміє їх змісту.

Критики інтерпретації Серла вважають, що він видав бажане за дійсне. Переклад з англійської на китайську мову не може здійснюватися бездумно. Якби Серл розглянув в єдності всю систему, тобто людини, книги як програму і базу даних, то йому довелося б звернутися до концепту свідомості. Можливо, випробуваному знадобляться роки навчання, перш ніж він зможе відповісти на поставлені запитання. До того ж слід врахувати, що питання стимулюють мозок відповідає. Нарешті, заслуговує уваги і якість перекладу. Прихильник позиції Дж. Серла сказав би, що комп'ютерні переклади вкрай невдалі, - аргумент, що свідчить про відсутність у процесора свідомості.

Цікаву позицію займають брати Дрейфусы1. Вони доводять, що за допомогою комп'ютерів можна моделювати роботу мозку, але і до створення свідомості справа не доходить. Дрейфусы вважають, що в класичний період своєї діяльності творці А1 несвідомо орієнтувалися на ідеали раціоналізму західної філософії, розроблені Платоном, Декартом, Лейбніцем, Кантом, Гуссерлем і молодим Вітґенштейном. Згідно з цим ідеалам, наука починається з теорії, яка виступає як сукупність абстрактних бесконтекстных принципів, що не залежать від конкретних ситуацій. Звідси випливає висновок, що будь-яка область формалізуєма, тобто може бути представлена у вигляді символьної репрезентації. Виходячи з цього, комп'ютерники надають самодовлеющее значення програмам, але при цьому упускають з виду, що ідеали раціоналізму виявилися дієвими тільки у природознавстві.

Згідно Дрейфусам, Хайдеггер М. і Л. Вітгенштейн показали, що "ми розумно ведемо себе в цьому світі, не маючи ніякої теорії світу. <...> Якщо праві Хайдеггер і Вітгенштейн, люди набагато холистичнее нейронних мереж. Інтелект повинен бути мотивований цілями і завданнями організму, в тому числі і тими цілями, які організм черпає з готівкової культури. Якщо мінімальна одиниця аналізу - цілісний організм, зчеплений з деяким цілісним світом культури, то нейронних мереж, як і символьно програмованим комп'ютерів, належить пройти ще довгий шлях".

Думається, Дрейфусы недооцінюють гідності теоретичного підходу. Посилання на авторитет Л. Вітгенштейна і М Гайдеггера не доводять, що в гуманітарній та повсякденному області теоретичний підхід не спрацьовує. Обидва філософа були погано обізнані щодо успіхів гуманітарних і тим більше комп'ютерних наук, які аж ніяк не перекреслили ідеали теоретичного пізнання. Також помилково Дрейфусы наполягають на бесконтекстности теорій: хороша теорія завжди ситуативна, тобто враховує якийсь контекст.

Мислення як управління поняттями. Розглянуті вище тести А. Тюрінга і Дж. Серла показують, що наше розуміння мислення все ще не витримує критики. Для відповіді на питання: "Що саме являє собою мислення?" необхідно спертися на досить авторитетну інстанцію. При цьому бажано врахувати великий і по-справжньому актуальний досвід людства. Але де знайти бажану перспективу? Емпірично налаштовані дослідники схильні покладати великі надії на безпосереднє вивчення мозку. Їх аргументація проста: мислить мозок, отже, вивчивши його, ми отримуємо доступ до мислення як процесу. Однак такого розуміння мислення явно бракує теоретичної витонченості. Думається, що шуканим авторитетом є сучасна наука як трансдисциплинарное ціле. Тоді відповідь на сформульоване вище питання передбачає встановлення того загального, що виражає сокровенне не однієї, а кожній з наук. Всі теорії виткані з концептів, які певним чином зв'язуються один з одним за допомогою переходів. Тут необхідний перехід між поняттями, який у зразковому вигляді представлений в науках. Мислення - це управління поняттями. Назвемо це визначення УП-дефініцією. Зрозуміло, проти такого визначення можуть бути висунуті заперечення. Розглянемо ті з них, які представляються найбільш принциповими.

Можлива аргументація проти УП-дефініції

1. УП-дефініція неучитывает статусу ненаукового знання. Це враження оманливе: не тільки наукове, але і будь-яке інше знання має концептуальний характер. Навіть у казках присутні концепти, наприклад "Іванушка-дурник".

2. Наука сама має проблемний характер, тому вона нездатна продукувати правильне визначення мислення. Наука дійсно насичена проблемами, але, по-перше, вони енергійно вивчаються в рамках метанауки, а по-друге, проблемність визначення не вказує на його неприйнятність. Важливо, щоб воно забезпечувало прогрес знання.

3. УП-дефініція не враховує відмінність раціонального і чуттєвого. Переконання в тому, що мислення має справу з думками, але не з почуттями, включаючи емоції, явно застаріло. Зміст почуттів і емоцій неможливо усвідомити без концептів. Залишається лише дивуватися широкого поширення в науці дуалізму "думки - почуття" і, відповідно, "мислення - відчуття". Почуття - це різновиди понять.

4. УП-дефініція не враховує ментального характеру мислення. У науці XX ст. сталася мовна революція. З'ясувалося, що концептуальний лад ментальноети, мови, а також об'єктів, так само як і відповідних їм процесів, - один і той же. Це означає, що неправомірно і далі прописувати мислення виключно ментальності, хоча ментальне і мовне мислення відрізняються один від одного лише своїми носіями.

5. УП-дефініція допускає приписування атрибута мислення об'єктів, наприклад камінню. Це не так. Згідно УП-дефініції мислить лише певний суб'єкт, а ним є той, хто ініціює і проводить концептуальну транедукцию. На даному етапі аналізу з упевненістю можна констатувати лише те, що мислить людина. Питання про мисленні комп'ютера поки залишається відкритим.

Переконавшись в грунтовності УП-дефініції, продовжимо аналіз, враховуючи мережеву структуру науки як єдиного цілого. Мислення як такого не існує, воно специфікується в кожній з наук. Математика, фізика, інформатика, економіка - це різні типи мислення. Вивчення тієї чи іншої науки є разом з тим і осягненням деякого типу мислення, що реалізується відповідними вченими. При цьому з'ясовуються численні подробиці.

До тих пір поки фахівці в галузі інформатики не покидають рідну грунт, про мисленні комп'ютера немає й мови: всім звичну реалізацію програми навряд чи хто назве мисленням. Ситуація змінюється після начебто цілком прийнятною і нешкідливою операції - порівняння комп'ютера безпосередньо з людиною. Це може проводитися трояким чином.

По-перше, цілком резонно порівнювати людину з комп'ютером в інформатиці. Людина вигадує зразки обчислень, парадигми програмування та відповідні їм язики, пише програми, що реалізує їх за допомогою комп'ютерів, спостерігає електронні образи, вносить корективи у всі етапи концептуальної трансдукції. На тлі активності людини комп'ютер виявляється всього лише засобом, втіленням його задумів у технічній формі. Комп'ютер при такому типі порівняння очевидно не є рівнею людині.

По-друге, можна порівняти людину з комп'ютером, маючи на увазі интернаучные зв'язку. В такому разі комп'ютер служить засобом интернаучного моделювання. Тут знову немає підстав приписувати комп'ютера атрибут мислення.

По-третє, комп'ютер порівнюється з людиною без яких-небудь посилань на науки. Правомірність такого порівняння не ставили під питання любителі різних тестів, зокрема А. Тюрінг та Дж. Серл. Насправді ж воно просто неможливо. Осмислення тестування неможливо без наук. Але як тільки дослідник звертається до них, він відразу ж зустрічається з першими двома випадками, в рамках яких комп'ютер є досить своєрідним і надзвичайно ефективним технічним пристроєм. Однак він залишається всього лише засобом особи, яка необхідна йому для або реалізації програм, або для интернаучного програмування. Таким чином, комп'ютер на відміну від людини не мислить, а це означає, що він не здійснює управління поняттями.

Вирішальна помилка Дж. Серла полягала в наступному: розглядаючи мешканця "китайської кімнати", він вважав, що людина може обійтися без управління поняттями. Але той, хто перекладає з однієї мови на іншу, здійснює складні етапи концептуальної трансдукції. Всупереч Серлу людина в принципі не в змозі бути тотожним комп'ютера: навіть в "китайській кімнаті" він залишається мислячою істотою. Згідно аргументації Серлі, комп'ютер подібний переставшему мислити людині, але таких людей не буває. Дж. Серл не довів відсутність у комп'ютера мислення. Відповідне доказ виходить лише при обліку пристрою інформатики як науки.

А. Тьюринг здійснив ту ж метанаучную помилку, що і Дж. Серл: він відмовився від детального аналізу концептуального пристрою інформатики та комп'ютерного моделювання. Всі контраргументи він спростовує посиланням на всесилля науки, яка для нього уособлюється комп'ютером. При цьому Тьюринг постійно використовує прийом логічного біхевіоризму, засновником якого вважається Л. Вітгенштейн. В рамках логічного біхевіоризму постулюється, що мовленнєві акти містять у собі все багатство ментальності людини, тому ментальність може бути виключено з аналізу. Ще одна хитрість полягає у використанні операционалитского аргументу. В такому випадку свідомість не редукується до мовним актам, а до поведінки, наприклад, роботів.

Отже, з позицій УП-дефініції питання про мисленні комп'ютера отримує досить очевидне дозвіл: комп'ютер не мислить. У такому випадку не доводиться обґрунтовано говорити не тільки про тезі сильного, але і слабкого інтелекту. Адже латиняни під словом розуміли розумову здатність людини, якій комп'ютери не мають навіть в ослабленому вигляді.

Штучний інтелект.

Існує досить розгалужена поле досліджень, іменоване штучним, інтелектом (ШІ). Так нерідко називають науку про автоматизації поведінки, мислення і мовної діяльності людини. У такому випадку визначення "штучний інтелект" є лише умовним збірним терміном, який використовується для позначення сукупності наукових практик. Щоб більш-менш компетентно судити про ІЇ слід розглянути відповідні галузі досліджень. Наведемо їх перелік із короткими коментарями. Зрозуміло, цей список може бути продовжений.

1. Імітація ігор, зокрема гри в шахи. Не залишилося шахістів, не відчули гіркоту поразки у протистоянні з комп'ютером. Машина, порівнюючи між собою показники ефективності чергових ходів, вибирає з них найкраще продовження. Це можливо, оскільки відома відповідна оціночна функція. У її визначенні фіксується досвід шахістів, вироблені ними цінності. Зрозуміло, шахіст грає не з ЕОМ, а з тим колективом авторів, які створили програму для комп'ютера.

2. Автоматичні міркування і доведення теорем. Спочатку комп'ютери застосовувалися для надання допомоги вченим в їх складних і нерідко утомливих розрахунках. Пізніше вони стали використовуватися для імітації дедуктивних доказів, розробки чисельних методів доведення теорем, наприклад таких, як методи резолюцій і натурального виводу, а також створення особливих формальних систем, зокрема логіки предикатів першого порядку, теорії типів, некласичних логік. Програми автоматичних міркувань і доведення теорем застосовуються для вирішення все більшого числа проблем формальної логіки, математики та інформатики, перевірки програмного забезпечення та апаратних засобів. Однак всі спроби вивести універсальні схеми доказів закінчилися невдачами. Міркування людей завжди мають певну цільову спрямованість, яка змінюється від випадку до випадку. Відповідно доводиться міняти і способи імітації міркувань людини.

3. Експертні системи. Їх особливість полягає в імітації в програмному вигляді знань експертів. Наприклад, у широко відомій програмі MYCIN використовуються знання фахівців медицини для діагностики і лікування спінального менінгіту та бактеріальних інфекцій крові. Добре відомо, що теорія неодмінно повинна бути специфікована до області дослідження. Краще за інших це вдається зробити експертам. Але комп'ютерному моделюванню піддаються не всі тонкощі теорії, а лише сукупність загальних міркувань. В результаті експертним системам часто бракує гнучкості, до того ж їх важко тестувати.

4. Розуміння природних мов. Мова в першу чергу йде про створення програм, що дозволяють будувати речення і перекладати з однієї мови на іншу. Досягти успіху в цій справі надзвичайно важко в силу багатофункціональності мови.

5. Робототехніка. Робот повинен планувати і коригувати свої дії.

6. Створення самонавчаючих програм. Вихідна програма перебудовується в результаті аналізу середовища, що змінюється або об'єктів діяльності. Однак ознаки перебудови задаються програмістами.

7. Нейронні мережі. Імітуються структури нейронів і механізми роботи людського мозку. Спочатку багато дослідників вважали, що це вирішальним чином наближає їх до розгадки таємниці людського мислення. Але згодом з'ясувалося, що в кращому випадку надбанням вчених виявляється деякий новий спосіб интернаучного моделювання.

8. Розпізнавання образів, тобто здатність виділяти у вихідних даних повторення, схожості, регулярності і закономірності. В інформатиці ставиться завдання добитися автоматичного розпізнавання та впорядкування образів, зокрема мовних і візуальних.

Розглянувши області дослідження, традиційно відносяться до ІІ, розумно задатися питанням про наявність у них загальних рис. Адже при їх відсутності термін "штучний інтелект" доведеться вважати лише економним позначенням сукупності теорій. Вказані загальні риси намагалися виділити неодноразово, але без вирішального успіху. Ось лише деякі з них:

o здатність обробки будь-яких символів, а не тільки цифр;

o імітація систем, для яких характерно ціннісно-цільове поведінка;

o увагу до неалгоритмическим процесів;

o імітація прийняття рішень на основі нечіткої інформації;

o освоєння методами інформатики максимально специфічного знання.

Думається, що зазначені риси не є справді загальними, бо вони розпорошені по різним областям теорії штучного інтелекту. У кінцевому рахунку прагнення дати змістовну характеристику ІЇ як особливої науки завжди пов'язано з певною інтерпретацією розуму людини, але саме це викликає дуже великі сумніви. Справа в тому, що робиться некритична спроба помістити розрізнені відомості про мисленні людини під єдиний для них концептуальний ковпак. На жаль, при цьому не аналізується дійсний статус тих наук, з якими інформатика знаходиться в интернаучных відносинах. Такого роду відносини явно потребують ретельної класифікації, але цього поки що не зроблено. В результаті ІІ виступає як конгломерат концепцій, які знаменують собою найактуальніші для інформатики пошукові напрямку.

Висновки

1. Автори, які наполягають на розумових здібностях комп'ютерів, не дають достатньо строгого визначення мислення.

2. Мислення - це управління поняттями.

3. Поняттями керує людина, при цьому комп'ютер є технічним засобом.

 
< Попередня   ЗМІСТ   Наступна >

Схожі тими

Історія, філософія і методологія інформатики
Етичні проблеми консультування
Етичні проблеми сучасної науки. Криза ідеалу ціннісно-нейтрального наукового дослідження
Взаємозв'язок між правовими та етичними основами соціальної роботи
Патерналізм у соціально-етичній теорії
Природний і штучний інтелект
Технологія управління на базі штучного інтелекту"
Види інтелекту у лідерстві
Симплекс-метод із штучним базисом (М-метод)
Дослідження екологічного стану природних і штучних біоценозів (еколого-біологічна експертиза)
 
Предмети
Банківська справа
БЖД
Бухоблік і аудит
Документознавство
Екологія
Економіка
Етика і естетика
Інвестування
Інформатика
Історія
Культурологія
Література
Логістика
Маркетинг
Медицина
Менеджмент
Політологія
Політекономія
Право
Психологія
Соціологія
Страхова справа
Товарознавство
Філософія
Фінанси