понеделник, 14 октомври 2013 г.

Философията е ключът към изкуствения интелект

Изумителен поглед в бъдещето, което изглежда не толкова далечно. То поставя нови предизвикателства пред философията и човешката способност да разбира себе си и заобикалящия свят. За първи път превеждам подобен тежък текст и беше трудно, но си струваше. Много се надявам той да се прочете с интерес, но най-вече да си зададем въпросите: „Страх ли ни е от бъдещето?“, „Готови ли сме за промените?“ и „Ще можем ли да осмислим всичко това?“. Заедно с отговорите на тези въпроси можем да научим много и за днешния ден. Аз научих най-вече, че критичното мислене, склонността да се съмняваш и преоценяш е фундаментална за човека като вид и е това, което ни води към прогрес.
В едно особено интересно есе статия в електронното списание Aeon, препечатана във  в. „Гардиън“,  физикът Дейвид Дойч (професор по физика в Оксфорд и основоположник на науката за квантовото изчисляване разкрива своите прозрения за настоящето и бъдещето на човешкият вид, но и нещо повече. Според него, изкуствен интелект (ИИ) е постижим, но ще е необходимо много повече от знанието, което компютърните науки и неврологията ни дават, за да развием машини, които мислят като хора.
"Да очакваме, че можем да създадем ОИИ, без да го разберем, е все едно да си мислим, че като построим един достатъчно висок небостъргач той ще полети".
"Да очакваме, че можем да създадем ОИИ, без да го разберем, е все едно да си мислим, че като построим един достатъчно висок небостъргач той ще полети".
Твърдението, че човешкият мозък притежава възможности, които, в определен смисъл, превъзхождат тези на всички останали познати ни обекти във вселената е безспорно. Мозъкът е единственият обект, който може да разбере дори че космосът е реалност, или че естествените числа са безбройни, или че ябълките падат от дъветата, заради изкривяването на време-пространството, или че поддаването на вродени инстинкти може да е морално укоримо, или дори да осъзнае сам себе си, че съществува. Нещо повече – уникалните му възможности не са ограничени само до такива когнитивни въпроси. Голата научна истина е, че мозъкът е единственият по рода си обект, който може да се придвижи до открития космос и обратно, без да се увреди, или да предвиди и  предотврати метеорен удар, или да охлади предмет до температура с една милиардна от градуса над абсолютната нула, или да търси (евентуално открие) други същества от неговия вид отдалечени на светлинни години.
Но няма мозък на Земята, който дори да се е доближил до познанието за конкретният начин на своето функциониране. Опитите да се постигне общ ИИ (ОИИ) не са прогресирали кой знае колко от самото начало на тази идея преди 60 години.
Въпреки отчайващата поредица от неуспехи,

ОИИ на теория трябва да е възможен

Така е, заради едно фундаментално свойство на физичните закони, а именно – универсалността на изчисляването. Според този принцип, всичко, което законите на физиката повеляват за поведението на материалните обекти, по начало, може да бъде имитирано в дълбоки детайли от някоя програма на добре познатия ни компютър, стига да има достатъчно време и памет.
Та, защо тогава няма развитие в тази област? Според мен е така, защото, както някой мъдрец беше казал, „Проблемът не е в това, което не знаем, а в това, което „знаем“, но не е вярно“. Не мога да се сетя за друга област на познанието, където доминиращите разбирания, не само сред широките маси на обществото, но и сред експертите, да са толкова затормозени от

закостеняли, взаимнообуславящи се, фундаментални грешки

И, все пак, това е и областта, в която все по-уверено се предсказва скорошното настъпване на абсолютен научен пробив.
През 1950 г. Алън Тюринг е очаквал, че до 2000-та година „ще може да се говори за възможността за машинно мислене, без да има кой да ти противоречи“. През 1968г., Артър Кларк предвижда същото да стане до 2001-ва. И, все пак, днес, през 2012г., никой не е станал по-добър в програмирането на ОИИ, отколкото е бил самия Тюринг.
Това стечение не изненадва все по-намаляващата групичка на противниците на идеята за възможността въобще да се създаде ОИИ. Но от другата страна на научната барикада признават, че тази поредица от провали трябва да бъде обяснена или поне грешките да бъдат  философски осмислени, т.е. - рационализирани.
Самото понятие ОИИ е пример за една такава рационализация в една област на научни търсения, която преди се наричаше ИИ – изкуствен интелект. Но ИИ постепенно беше пригодено да описва най-различни компютърни програми, като: игри, търсачки и чат-ботове, докато О за „общ“ не беше добавено, за да направи възможно свързването на понятието отново с първоначалния проект, но сега с общото разбиране, че ОИИ е просто нещо по-умно от чат-бот.
Друг вид рационализация се прокара по линията на мисълта: „ОИИ не е нещо кой знае какво; все пак, съществуващият софтуер е вече толкова умен или дори по-умен, но не по човешкия начин, а ние сме  твърде суетни и твърде обременени културно, че да го оценим.“ Това схващане успява да създаде някакво раздвижване, защото се обръща към трайните масови заблуди, характерни за културния релативизъм, както и към сходната мисъл, че „ние хората се гордеем с позицията си на уникален животински вид, но тази гордост трябва да се основава на нещо друго, защото те, [компютрите], също имат „език“, инструменти... И самосъзнание.“ Помните ли значението, което се придаваше на компютърната система във филмите за Терминатор, „Скайнет“, която се беше „осъзнала“?
Това е просто още едно погрешно философско схващане, достатъчно само по себе си да блокира какъвто и да е работещ подход към ОИИ. Фактически, всеки съвременен софтуерен инженер може, ако иска, да програмира компютъра да има „самосъзнание“ в поведенческия смисъл на думата – например, да може да мине „теста с огледалото“, която включва разпознаването си и научаването на неща за себе си чрез огледало. Доколкото ми е известно, никой не прави това, вероятно защото е колкото безполезно, толкова и тривиално качество.
Може би, причината „самосъзнанието“ неоправдано да се свързва с ОИИ е, че благодарение на теоремата на Гьодел и други най-различни противоречия във формалната логика през 20-ти век, вътрешната рефлексивност на индивида под всякаква форма се е считала за някаква тайнствена мистерия. Така и съзнанието. А с него имаме и друг проблем – неяснотата на понятието: терминът има огромно разнообразие от значения. От една страна, се поставя философския проблем за природата на субективните усещания („qualia”), който е тясно свързан с проблема за ОИИ; но от друга страна „съзнание“ е това, което губим при достатъчна доза упойка. Много животни определено имат такова.

ОИИ със сигурност ще бъде способен на самоосъзнаване,

но това ще е така, защото той ще бъде Общ: той ще може да възприема всякакъв вид дълбоки и трудно доловими неща, включително себе си. Това не значи, че маймуните, които минават „теста с огледалото“ имат нещо общо с „общият интелект“, на който ОИИ ще бъде изкуствена версия. Всъщност, страхотното изследване на Ричард Бърн за мемите  на горилите разкри как маймуните могат да се учат на полезни практики една от друга, без дори да осъзнават за какво са им: това е обяснението за поведенческия характер на маймунското познание.
Определящото качество на интелигентното същество, човек или машина, е неговата креативност.
Определящото качество на интелигентното същество, човек или машина, е неговата креативност.
По ирония на съдбата, тази поредица от рационализации (ОИИ вече е постигнат/тривиален е/ съществува при маймуните/ е културна заблуда) е огледален образ на тезите на лагера „ОИИ е невъзможен“. За всеки техен аргумент от рода на: „не можете да направите ОИИ, защото не може да се програмира човешката душа“, лагерът „ОИИ е лесно постижим“ отговаря – „ако мислите, че механизмът на човешкото познание е качествено различен от този на маймуните, то тогава трябва да вярвате в свръхестествената душа“.

Всичко, което не знаем все още как да програмираме, се нарича „човешки интелект“

е друга подобна рационализация. Тя е отговор на аргумент, развит от философа Джон Сиърли (от лагера на скептиците), който обръща внимание, че още преди съществуването на компютрите, парните двигатели и по-късно телеграфните системи са използвани като метафора за това как човешкият ум би трябвало да работи. Според него, надеждата, че ОИИ е възможен се крепи на сходна несъдържателна метафора, а именно, че умът е, в най-общи линии - компютърна програма. Но това не е метафора, универсалността на изчисляването следва от познатите ни закони на физиката.
Някои предлагат идеята, че мозъкът използва квантово изчисляване, или дори хипер-квантово изчисляване, като по този начин оправдават провалите за създаване на ОИИ, поради все още незапълнени празнини във физиката на частиците. Мога да обясня защо аз и повечето ми колеги занимаващи се с теорията на квантовото изчисляване не считаме, че това е правдоподобно обяснение на уникалните свойства на човешкия интелект, но ще се отклоня твърде много от темата на тази статия.
Идеята, че ОИИ са „хора“ беше заложена още в първоначалната концепция. Ако има програма, на която ѝ липсва дори едно единствено когнитивна качество, което е характерно за човека, тогава по дефиниция тя не би била ОИИ; използването на не-когнитивни качества (като например процент на съдържание на въглерод), за да се опише личността, би било „расистко“, дискриминирайки силиконовият мозък пред органичния. Но фактът, че способността да се дават нови обяснения е уникалното, морално и интелектуално значимата функционалност на „човека“ (хора и ОИИ), и това той постига по механизма на отправяне на предположения и последваща критика, променя всичко.
Понастоящем „личността“ е често разглеждана по-скоро символично, отколкото фактически – като титла, като заявка за перспективата на един организъм (маймуна, зародиш, корпорация) да бъде „личност“, което значи да постигне някаква философска или практическа цел. Това не е добре. Оставете настрана терминологията; променете я, ако трябва, защото наистина има причини да се третират различни същества с уважение, да не се нараняват и т.н. В същото време, разликата между реални хора, обусловена от някакъв обективен критерий, и други организми има огромно морално и практическо значение и би било жизнено важно за една цивилизация, включваща ОИИ-та.
Например, самият факт, че не компютъра, а програмата, която върви на него, е личността повдига нерешени философски въпроси, които ще станат пратически, политически в първият момент, в който ОИИ се създаде – веднъж инсталиран ОИИ на компютър, отделянето му от него би било убийство (или поне „затворничество“ или робство, в зависимост от случая), също както отделянето на човешкият ум от неговото тяло. Но, за разлика от последното, една програма с ОИИ може да бъде разпространена на множество компютри с едно натискане на  бутон. И сега, докато изпълняват все още идентични стъпки (т.е. преди да са подложени на различна среда и да са се развили различно, когато са взели различни решения), тези програми една и съща личност ли са или са много различни личности? Дали ще имат право на един глас или на много? Изтриването на една от тях убийство ли е или е малозначително нападение? А, ако някой луд програмист, вероятно незаконно, създаде милиарди от различни ОИИ личности, дали на един компютър или на много, какво става тогава? Те също са личности с права. Всички ли ще могат да гласуват?
По-нататък, при положение, че ОИИ ще носи качеството креативност, ще трябва дълбоко да преосмислим понятието „програмиране“. Да се отнасяме към ОИИ като към останалите компютърни програми би се възприемало като промивка на мозъка, робство и тирания. Дори и като посегателство към дете, защото „програмиране“ на вече стартиран ОИИ, за разлика от познатият ни днес случай, включва образование. Съдържа също и дебат, както морален, така и фактически. Игнорирането на правата на ОИИ би било не само въплъщение на злото, но и път към катастрофа:

креативните същества не могат да бъдат поробени завинаги.

Някои хора се чудят дали трябва да се радват на такъв свръх-робот и/или как бихме могли да ги програмираме така, че да са неспособни да навредят на човека (подобно на „трите закона на роботиката“ на Азимов), и/или да ги спрем да научат опасни теории, като например – за необходимостта вселената да се превърне в кламери. Това не е проблем. Винаги е имало такива случаи, в които изключително креативни личности са могли да бъдат хиляди пъти по-продуктивни от обикновените хора - икономически, интелектуално или под каквато и да е друга форма; и, ако тези личности използват способностите си за да вършат лошо, а не добро, то те могат да причинят огромни вреди.
Такива феномени нямат нищо общо с ОИИ. Битката между „добро“ и „зло“ е стара колкото човешкият вид и ще продължи, независимо от хардуера, на който върви. Проблемът е, че ние искаме разумът с (морално) добри идеи винаги да побеждава злият ум, биологичен или изкуствен; но ние сме погрешими същества и нашата концепция за „добро“ има нужда от постоянно преосмисляне и подобряване. Как обществото може да бъде така организирано, че да поощрява подобен прогрес? „Да поробим всеки разум“ би бил катастрофален отговор, а „да поробим всеки разум, който не изглежда като нас“ не би бил кой знае колко по-различен.
Един от изводите е, че

трябва да спрем да се отнасяме към образованието (на човеци или на ОИИ) като към инструкция

– като средство за пренасяне на съществуващо безалтернативно знание заедно с условието съществуващите ценности да се възпроизвеждат покорно. Както Карл Попър беше писал (в контекста на научните открития, но това се отнася в еднаква степен и към програмирането на ОИИ и обучението на деца): „няма такова нещо като инструкция, идваща отвън... Ние не откриваме нови факти или нови ефекти като ги копираме или като ги извеждаме индуктивно от наблюденията си, или по какъвто и да е друг начин за „инструкция“ от околната среда. Ние по-скоро използваме метода на опита и елиминирането на грешката.“ Това е, в общи линии, механизмът предположение-критика. Ученето трябва да бъде нещо, което новосъздаденият разум прави за себе си и сам контролира.
Не обръщам такова внимание на тези философски проблеми, защото се страхувам, че ОИИ ще бъде измислен преди да сме разработили понятията, с които да го разберем и интегрираме към нашата цивилизация. Всъщност, причината е точно обратната: убеден съм, че неуспехите ни да създадем ОИИ се дължат не на компютърната наука или невропсихологията, а на това, че философският прогрес, който би бил ключов за неговото бъдещо интегриране, е също така и предпоставка за неговото възникване на първо време.
Липсата на напредък при разработването на ОИИ се дължи на тежко „задръстване“ с погрешни концепции. Без епистемологията (теория на знанието) на Попър, не можем още в началото да се сетим дори каква точно функционалност трябва да достигнем, за да създадем ОИИ. А Попъровата епистемология дори не е широко позната, камо ли да бъде достатъчно добре разбрана, че да се приложи. Да гледаме на ОИИ като на машина за преобразуване на опити, награди и наказания в идеи (или по-лошо – само в типове поведение) е същото като да опитваме да изцелим инфекциозни заболявания чрез балансиране на телесните чакри: безполезно, защото тези методи се коренят в архаични и дълбоко сбъркани светогледи.
Докато не разберем, че начинът на функциониране на ОИИ е качествено различен от този на всеки други вид компютърна програма, ще продължаваме да удряме в празното пространство. Ако не спрем да се мъчим с програми, чието „мислене“ е изначално неспособно да нарушава предефинирани рамки, значи се опитваме да пренебрегнем определящото качество на интелигентното същество, на личността, а именно – креативността.
Изчистването на това „задръстване“  само по себе си няма да ни даде отговорът. Но, все пак, с помощта на тези нови разбирания можем много по-лесно да стигнем до него. Защото още една последица от възприемането на целта с тези ѝ качествени характеристики е това, че, след като хората ги имат, а маймуните – не, информацията за това как да я постигнем трябва да се съдържа в относително малкият брой разлики между ДНК кода на човека и на шимпанзето.  Така, от една страна, мога да се съглася с лагера „ОИИ е неминуем“, че най-вероятно една единствена идея ни е необходима за така очакваният пробив. Но, от друга страна, това трябва да е една от най-гениалните идеи за всички времена.

Няма коментари :

Публикуване на коментар