Как ще свърши светът? Част 6: Роботи
Възможно ли е един ден да бъдем изместени и поробени от роботите с изкуствен интелект?
Може би творбите от жанра, които включват разбунтували се роботи, са също толкова многобройни колкото и представящите извънземна атака. Както извънземните, така и роботите не биха унищожили света в пълния смисъл на думата, но могат да представляват заплаха за човешката цивилизация. Или пък не? На този въпрос ще се опитам да отговоря в тази част от поредицата.
През 2009г. най-големите специалисти по изкуствен интелект (ИИ) се събраха на конференция в Асиломар, Калифорния. Целта им беше да обсъдят сериозно какво може да се случи, когато роботите започнат да ни превъзхождат. Като примери за предстоящата „революция“, изплашени хора сочеха убийствения (в буквален смисъл) Predator – безпилотен самолет стрелящ с невероятна точност по терористи, автомобилите на Google, които се движат без шофьор, както и шедьовърът на Honda, най-съвършения хуманоиден робот в света – ASIMO. Всичко звучеше така, сякаш краят ни дебне от всеки ъгъл. Е, явно вече няколко години успяваме да му се изплъзнем.
Не е нужно да казвам колко са се развили всички тези и много други подобни проекти през последните четири години. Щом още през 2009 г. всички бяха толкова притеснени, бяха организирани цели конференции, а киното започна да готви филми с робокалиптичен сценарий, то трябва ли ние днес да се притесняваме още повече?
Първо нека разгледаме примерите от по-горе: страховитият Predator всъщност се управлява от екип ветерани от компютърните игри – човек с джойстик, координатор и още няколко човека, които следят всички системи и изпълняват плана на мисията. Автономната кола всъщност сравнява данните от своя GPS с предварително зададена карта и маршрут и следи за препятствия. Тя не се отбива в любимата сладкарница за кафенце и еклер. А роботът ASIMO има отделна програма за всяко от многобройните действия, които може да извършва – да ходи, бяга, да изкачва стълби, да танцува, да ви сервира кафето и да разговаря. Всяко едно движение е внимателно програмирано и работи само в идеални условия – ако стъпалата са по-високи от обикновено, роботът ще се спъне и ще се строполи като чувал с картофи. Няма да има никаква реакция, просто защото няма такава програма.
Големият проблем при създаването на интелигентни роботи е способността за обучение. Досега не е постигнат никакъв напредък в тази посока – със сегашната архитектура на компютъра е почти невъзможно да се заложи механизъм за обучение. Машините не могат да разбират какво им се случва, а още по-малко да си извеждат поука и да генерират сами нов програмен код, който да им помогне да се справят по-добре в друга подобна ситуация.
Това е породено от факта, че компютърът има напълно различен начин да действие от мозъка – огромният брой неврони в главите ни постоянно се свързват по нови начини, като така се запаметяват нови спомени и умения. От друга страна е достатъчно един резистор да е свързан погрешно, за да не работи целия компютър. Факт е и невъзможността на компютъра да се самоусъвършенства.
Сериозен е и проблемът със „здравия разум“ – нещо, което всеки човек и всяко животно има – огромно количество от информация, която за нас изглежда очевидна и предвидима. Това са неща като:
• Водата е мокра;
• Родителите са по-възрастни от децата си;
• Животните не харесват болката;
• Предметите падат надолу;
• От въртенето на хората им се завива свят;
• Живите същества не могат да издържат при екстремни температури и др.
Няма програмиране, което да може да докаже тези истини. Ние ги научаваме още като деца – роботите не могат да направят това. На всичкото отгоре, обемът нужен за съхранение на толкова много информация би бил огромен. Един не много находчив проект в тази насока беше CYC. Започнал още през 1984 г., негова цел беше до 2007 г. да се кодират 100 милиона от тайните на здравия разум в една програма. Както при други подобни проекти този краен срок мина и замина, както и следващият и по-следващият… Все още роботите отстъпват по интелект и на хлебарките.
Общо взето, на всеки 20 години (че и по-често) се появява ентусиаст, който твърди, че след две десетилетия ще имаме интелигентни роботи в домовете си. Но когато този срок отмине, никой не излиза, за да признае грешката си.
Най-простият тест и същевременно препъни-камъкът за специалистите от областта на ИИ е тестът с разговора. Обикновен човек води два разговора на свободна тема. Без да вижда събеседника си, той говори с истински човек и с претендента за ИИ поотделно. „Изпитващият“ общува определен период от време с всеки от двамата. Претендентът за „изкуствен интелект“ се признава за такъв, ако в края на теста „изпитващият“ не може (или поне изпитва затруднение) да определи кой е роботът и кой е истинският човек.
Дори най-простите неща могат да направят на пух и прах „интелигентността“ на всеки робот. Машините биха били безпомощни пред подобни въпроси и задачи:
• Какви животни предпочиташ – кучета или котки?
• Мислиш ли, че еди кой си е тъжен?
• Залепи този лист хартия, така че…
• Подреди книгите така, както ти прецениш.
Макар с ИИ да ни делят стотици, а може би и хиляди години, компютрите се развиват феноменално бързо, спазвайки закона на Мур (процесорната мощ се удвоява на всеки две години). Те навлизат във всички сфери на живота и дейността на човека и поемат много от неговата работа. Но трябва ли да се страхуваме от тях?
Моят отговор е не. Макар роботите да процъфтяват, те остават напълно зависими от хората, които боравят с тях. Всички роботи са напълно безпомощни извън сферата, за която са предназначени. Докато се придържат към програмите си и нямат способността да се учат и да мислят, роботите не могат да представляват никаква опасност за нас. Това, обаче, ще се промени в момента, в който машината получи възможността да взима самостоятелни решения и да мисли – дори трите закона на роботиката могат да бъдат отхвърлени поради някое грешно разсъждение, както се случва в „Аз – роботът“ например.
От друга страна, доказателство за потенциална опасност са и последните действия на суперкомпютъра Watson на IBM. Наскоро той започна да псува! На въпрос на учен компютърът отговорил с „Bullshit“. Разбира се, този факт си има обяснение – машината използва огромни масиви от информация в Интернет, а основен източник на думи е urbandictionary.com. Нищо чудно, че все по-често компютърът започва да използва вулгарни думи и изрази. Добрата новина е, че един от учените, поддържащи Watson – Ерик Браун се е заел да почисти паметта му от неподходящ език. В крайна сметка, отново се оказва, че интересната ситуация е плод на механични изчисления и в нея няма грам разбиране.
Докато търсим опасността в роботите и в изкуствения интелект, истинската заплаха може би се крие в самите нас, в това, как и за какво можем да ги използваме и в това, дали можем да разберем, кога сме прекрачили границата…