Три закона роботике

Три закона роботике је осмислио писац научне фантастике Исак Асимов. Први пут се појављују у његовој краткој причи "Коло-наоколо" из 1942. године (из збирке Ја, робот из 1950), и они гласе:

1. Робот не сме повредити људско биће нити, својом неактивношћу, дозволити да људско биће буде повређено.
2. Робот мора поштовати наређења људских бића, осим ако се та наређења не косе са Првим законом.
3. Робот мора да штити сопствену егзистенцију, осим ако се то не коси са Првим и Другим законом.

Ови закони представљају организациони принцип и тему која сједињује све Асимовљеве приче и романе засноване на роботима, тј. романе из циклуса Роботи, приче повезане са овом серијом и циклус Луцкy старр. Три закона су инкорпорирана у скоро све позитронске роботе који се појављују у његовој фантастици, не могу да се заобиђу и замишљени су као сигурносна мера. У многим Асимовљевим причама где су роботи централне фигуре, они се понашају на необичне начине који су последица примене Три закона на ситуације у које доспевају. Многи други писци у научној фантастици и другим жанровима су усвојили Три закона и позивају се на њих, а понекад их и пародирају.

Асимов и други аутори су мењали и развијали првобитне законе. Сам Асимов је начинио мале измене закона у различитим књигама и кратким причама како би даље развио начине на које роботи и људи утичу и реагују једни на друге. У каснијим делима, где роботи преузимају одговорност за управљање читавим планетама и људским цивилизацијама, Асимов додаје  и четврти, или нулти закон, који претходи осталима:

0. Робот не сме наудити човечанству нити, својом неактивношћу, дозволити да се човечанству науди.

Три закона, као и нулти, прожимају научну фантастику и наводе се у многим књигама, филмовима и другим медијима, а такође су утицали и на размишљање о етици вештачке интелигенције.

Историјат

У причи Остали роботи, која је објављена 1964, Асимов је приметио да је, када је почео да пише, 1940. године, "један од најчешћих заплета у научној фантастици био... да роботи бивају направљени и на крају убијају свог творца. Знање носи са собом одређене опасности, тачно, али да ли је решење одрицати се знања? Или знање треба користити као заштиту од опасности које доноси?" Он одлучује да се у његовим причама роботи неће "глупаво окретати против својих твораца без икаквог другог разлога осим да би протестовали, по ко зна који пут, због фаустовског злочина и казњавали их."

Асимов је касније написао да не треба њему приписивати заслуге за стварање Закона, јер су они били "очигледни од старта и свако их подсвесно зна. Они само нису били формулисани у кратке реченице док ја у томе нисам успео. Три закона важе, наравно, за сваки алат који људска бића користе", и "њима аналогни закони имплицитно важе код конструисања скоро свих врста алатки, биле оне роботске или не":

1. Закон 1: Алатка не сме бити небезбедна за коришћење. Чекићи и шрафцигери имају дршке како би се боље држали у руци. Могуће је, наравно, да се особа повреди са неком од ових алатки, али та повреда би била последица некомпетентности те особе, а не дизајна алатке.
2. Закон 2: Алатка мора да обавља своју функцију, осим ако то не угрожава корисника. За то постоје заштитне склопке. Свака алатка која ради биће искључена ако струјно коло детектује да се нека струја не враћа на неутрални проводник и да према томе можда пролази кроз корисника. Безбедност корисника је најважнија.
3. Закон 3: Алатка се не сме уништавати током њеног рада, осим ако је уништење неопходно за њену употребу или због безбедности. На пример, бургије неке бушилице су конструисане да што је могуће дуже издрже да се не поломе, осим ако посао не захтева да се потроше. Осим тога, оне су направљене тако да се поломе у тренутку кад би брзина шрапнела могла неког озбиљно да повреди (делове тела који нису очи, с обзиром да се заштитне наочаре морају носити у сваком тренутку).

Примене у будућој технологији

АСИМО је напредни хуманоидни робот ког је конструлисала Хонда. Овде је приказан на изложби Еxпо 2005.

Роботи и вештачке интелигенције сами по себи не садрже нити поштују Три закона; њихови људски творци морају да их испрограмирају за то и да осмисле начине како то да ураде. Већ постоје роботи (као на пример Роомба) који су сувише једноставни да би разумели када наносе бол или некога повређују и сходно томе знали да се зауставе. Многи од њих су направљени са физичким заштитама као што су одбојници, сигнали упозорења итд. Чак и најкомплекснији роботи који се тренутно производе нису у стању да разумеју и примене Три закона; узнапредовала вештачка интелигенција би требало да буде то у стању, а чак и кад би достигла ниво људске интелигенције, етичка комплексност Три закона као и њихова културолошка/контекстуална условљеност не би их чинила добрим кандидатом за формулисање ограничења приликом конструкције робота. Међутим, како роботи постају комплекснији, тако расте и интерес за осмишљавање смерница и мера заштите приликом њиховог функционисања.

Писац научне фантастике Роберт Сојер заступа становиште да, с обзиром да су Оружане снаге САД-а главни извор финансирања роботског истраживања (и већ користе наоружане беспилотне летелице за убијање непријатеља), постоји мала вероватноћа да ће се овакви закони уградити у њих. У засебном есеју, Сојер генерализује ово тврђење како би обухватио и друге индустрије:

Развој вештачке интелигенције је бизнис, а познато је да су индустрије ноторно незаинтересоване за примену основних заштитних мера - а нарочито оних филозофских. (Неколико кратких примера: дуванска индустрија, ауто-индустрија, нуклеарна индустрија. Ниједна од поменутих се није од старта изјаснила да су основне мере заштите неопходне, све су одбиле споља наметнуте мере заштите и ниједна није прихватила апсолутни указ против наношења штете људима.)

Види још

• Роботика
• Етика вештачке интелигенције
• Тилденови Закони роботике
• Теорија пријатељских намера – теорија која каже да интелигентне машине, радије него да користе "Законе", треба да буду програмиране да буду суштински ***алтруистичне, а затим да користе своју најбољу процену како да спроводе тај алтруизам, чиме би се избегао проблем како се изборити са огромним бројем непредвиђених могућих догађаја.
• Војни роботи који могу бити конструисани тако да наруше Асимовљев Први закон.
• Три Кларкова закона
• Нивенови закони

Библиографија

• Асимов, Исаац (1979). Ин Меморy Yет Греен. Доубледаy. ISBN 0-380-75432-0.
• Асимов, Исаац (1964). "Интродуцтион". Тхе Рест оф тхе Роботс. Доубледаy. ISBN 0-385-09041-2.
• Јамес Гунн. (1982). Исаац Асимов: Тхе Фоундатионс оф Сциенце Фицтион. Оxфорд у.а.: Оxфорд Университy Пр.. ISBN 0-19-503060-5.
• Патроуцх, Јосепх Ф. (1974). Тхе Сциенце Фицтион оф Исаац Асимов. Доубледаy. ISBN 0-385-08696-2.

Спољашње везе

• Ми, роботи - Елементаријум (Центар за промоцију науке)