Trzy prawa robotyki po 80 latach: co zostało z pomysłu Asimova
W 1942 roku Isaac Asimov wymyślił trzy proste zasady, które miały chronić ludzi przed robotami. Były tak zgrabne, że do dziś pojawiają się w każdej dyskusji o etyce maszyn. Sprawdzamy, jak naprawdę reguluje się dziś bezpieczeństwo robotów.
> W SKRÓCIE
- Trzy prawa robotyki Asimova to literacki pomysł z 1942 roku – opowiadania pisarza pokazują raczej, jak łatwo takie zasady zawodzą.
- Prawdziwe bezpieczeństwo robotów opiera się na normach technicznych, m.in. ISO 10218 dla robotów przemysłowych.
- Unijny AI Act obowiązuje od sierpnia 2024 roku i jest wprowadzany stopniowo.
- Nowe unijne rozporządzenie w sprawie maszyn ma być stosowane od stycznia 2027 roku i obejmie także maszyny korzystające z AI.
Trzy zasady z opowiadania
Isaac Asimov sformułował trzy prawa robotyki w opowiadaniu „Runaround” z 1942 roku. W wolnym streszczeniu brzmią tak:
- Robot nie może skrzywdzić człowieka ani przez bezczynność dopuścić, by człowiekowi stała się krzywda.
- Robot musi wykonywać polecenia ludzi, chyba że stoją one w sprzeczności z pierwszym prawem.
- Robot musi chronić samego siebie, o ile nie stoi to w sprzeczności z dwoma pierwszymi prawami.
Później pisarz dodał jeszcze prawo zerowe: robot nie może skrzywdzić ludzkości jako całości.
Prawa, które miały zawodzić
Warto pamiętać, że Asimov nie pisał instrukcji obsługi. Jego opowiadania są w dużej mierze o tym, jak proste reguły prowadzą do zaskakujących skutków: sprzecznych poleceń, niejasnych definicji „krzywdy” czy robotów, które utknęły między dwoma prawami. To lekcja wciąż aktualna – trudno zapisać zdrowy rozsądek w kilku zdaniach.
Jak naprawdę chroni się ludzi przed robotami
W fabrykach bezpieczeństwo zapewnia nie filozofia, tylko inżynieria i normy:
- ISO 10218 – podstawowa norma bezpieczeństwa robotów przemysłowych i stanowisk zrobotyzowanych.
- ISO/TS 15066 – wytyczne dla robotów współpracujących: jakie siły i nacisk są dopuszczalne przy kontakcie z człowiekiem.
- Osłony, skanery i kurtyny świetlne – zatrzymują robota, gdy człowiek wejdzie do strefy pracy.
To podejście jest mniej poetyckie niż prawa Asimova, ale działa: robot ma po prostu nie móc zrobić krzywdy, niezależnie od tego, co „chce”.
Sztuczna inteligencja pod nadzorem
Gdy roboty zaczęły korzystać z uczenia maszynowego, pojawiło się nowe pytanie: jak regulować system, którego zachowania nie zaprogramowano linijka po linijce? Unia Europejska odpowiedziała Aktem w sprawie sztucznej inteligencji (AI Act). Przepisy weszły w życie 1 sierpnia 2024 roku i są wprowadzane etapami. Najwięcej obowiązków dotyczy systemów wysokiego ryzyka – a do tej grupy mogą należeć systemy AI będące elementami bezpieczeństwa maszyn.
Równolegle Unia przyjęła nowe rozporządzenie w sprawie maszyn (2023/1230), które ma być stosowane od 20 stycznia 2027 roku i zastąpi dotychczasową dyrektywę maszynową. Uwzględnia ono maszyny, które uczą się i zmieniają swoje zachowanie, oraz zagrożenia związane z cyberbezpieczeństwem.
Co zostało z Asimova
Bardzo dużo – ale nie w formie prawa. Pierwsze prawo robotyki żyje w zasadzie, że bezpieczeństwo człowieka ma pierwszeństwo przed wydajnością. Drugie – w dyskusji o tym, kto odpowiada za polecenia wydawane maszynom. Trzecie przypomina, że robot ma być niezawodny, ale nigdy kosztem ludzi.
Asimov dał nam więc nie gotowe przepisy, tylko język do rozmowy o maszynach. Osiemdziesiąt lat później wciąż z niego korzystamy.
Pytania i odpowiedzi
Jak brzmią trzy prawa robotyki?
W skrócie: robot nie może skrzywdzić człowieka ani przez zaniechanie dopuścić do jego krzywdy; musi słuchać ludzi, chyba że to kłóci się z pierwszym prawem; musi chronić siebie, o ile nie kłóci się to z dwoma pierwszymi prawami.
Czy prawa Asimova obowiązują naprawdę?
Nie. To fikcja literacka. W praktyce bezpieczeństwo robotów zapewniają normy techniczne, przepisy o maszynach i odpowiedzialności za produkt oraz regulacje dotyczące sztucznej inteligencji.
Co to jest zerowe prawo robotyki?
To zasada, którą Asimov dodał w późniejszych powieściach: robot nie może skrzywdzić ludzkości jako całości. Postawił ją ponad pozostałymi trzema prawami.