Bezpečnost humanoidních robotů a soulad s předpisy EU: Praktický průvodce
Nasazení humanoidních robotů v evropské výrobě vyžaduje splnění přísných bezpečnostních a regulačních norem. Zde je, co je třeba vědět.
Motion1 Inc. ·
Nasazení humanoidních robotů ve výrobním závodě již není futuristickým konceptem. Děje se to nyní, napříč evropskými továrnami, sklady a výrobními linkami. S nasazením však přichází zásadní otázka, kterou si musí každý výrobce zodpovědět, než začne jediný robot fungovat: je toto nasazení bezpečné a v souladu s předpisy?
Evropská unie má jedny z nejkomplexnějších regulačních rámců na světě, pokud jde o průmyslové stroje, umělou inteligenci a bezpečnost práce. Pro výrobce nasazující humanoidní roboty nejsou tyto předpisy volitelnými úvahami – jsou to právní požadavky se skutečnými důsledky v případě nedodržení.
Tento průvodce Vás provede regulačním prostředím, vysvětlí klíčové normy a směrnice, které se uplatňují, a poskytne praktický kontrolní seznam pro dosažení a udržení souladu.
Regulační prostředí pro humanoidní roboty
Humanoidní roboti zaujímají v regulačním rámci neobvyklou pozici. Nejsou to tradiční průmysloví roboti přišroubovaní k podlaze za bezpečnostními klecemi. Jsou mobilní, autonomní a navržení tak, aby pracovali po boku lidí. To znamená, že spadají pod více překrývajících se regulačních kategorií.
Na vysoké úrovni jsou nejrelevantnější tři regulační rámce:
- Bezpečnostní normy pro průmyslové stroje (ISO 10218, ISO 15066)
- Nařízení EU o strojních zařízeních 2023/1230 (nahrazující starší směrnici o strojních zařízeních 2006/42/EC)
- Akt EU o umělé inteligenci (Nařízení 2024/1689)
Každý z těchto rámců se zabývá různými aspekty nasazení humanoidních robotů. Společně definují požadavky na bezpečnost, dokumentaci a provoz, které musí výrobci splnit.
Je třeba poznamenat, že regulační prostředí se stále vyvíjí. Humanoidní roboti zpochybňují stávající kategorie a regulátoři aktivně pracují na pokynech specifických pro humanoidní a kolaborativní robotické systémy. Výrobci by měli považovat soulad s předpisy za průběžný proces, nikoli za jednorázové certifikační cvičení.
ISO 10218 a bezpečnost průmyslových robotů
ISO 10218 je základní mezinárodní norma pro bezpečnost průmyslových robotů. Skládá se ze dvou částí:
- ISO 10218-1 pokrývá bezpečnostní požadavky na samotného robota – jeho konstrukci, stavbu a vestavěná ochranná opatření.
- ISO 10218-2 pokrývá bezpečnost robotických systémů a jejich integraci do výrobních prostředí – včetně uspořádání buňky, ochranných opatření a posouzení rizik.
Pro humanoidní roboty je ISO 10218 relevantní, ale ne vždy postačující samo o sobě. Norma byla původně navržena pro tradiční průmyslové roboty pracující v klecových prostředích. Humanoidní roboti, kteří pracují po boku lidských operátorů, spadají do kategorie kolaborativních robotů (cobotů), které se navíc řídí normou ISO/TS 15066.
ISO/TS 15066 definuje čtyři režimy kolaborativního provozu:
- Bezpečnostně monitorované zastavení. Robot se zastaví, když člověk vstoupí do sdíleného pracovního prostoru.
- Ruční vedení. Člověk fyzicky vede robota při pohybech.
- Monitorování rychlosti a vzdálenosti. Robot zpomalí nebo se zastaví na základě blízkosti lidí.
- Omezení výkonu a síly. Robot je navržen tak, aby jakýkoli kontakt s člověkem zůstal pod prahem bolesti a zranění.
Většina nasazení humanoidních robotů ve výrobě spoléhá na kombinaci monitorování rychlosti a vzdálenosti a omezení výkonu a síly. Konkrétní přístup závisí na prováděných úkolech, nosnosti robota a uspořádání pracovního prostoru.
Výrobci by měli spolupracovat se svým dodavatelem robotů a kvalifikovaným bezpečnostním integrátorem, aby určili, které kolaborativní režimy se vztahují na jejich nasazení, a aby ověřili soulad s předpisy prostřednictvím testování.
Nařízení EU o strojních zařízeních 2023/1230
Nařízení EU o strojních zařízeních (2023/1230) je nástupcem dlouholeté směrnice o strojních zařízeních (2006/42/EC). Vstoupilo v platnost v roce 2023 a plně se stane použitelným v lednu 2027, s přechodným obdobím, během kterého mohou výrobci dodržovat buď starou směrnici, nebo nové nařízení.
Nové nařízení zavádí několik změn, které jsou přímo relevantní pro nasazení humanoidních robotů:
Digitální dokumentace. Nařízení umožňuje poskytování technické dokumentace a pokynů v digitálním formátu, čímž se snižuje zátěž spojená s papírovými záznamy o souladu. Pro flotily robotů spravované prostřednictvím softwarových platforem je to v souladu s centralizovanými přístupy k dokumentaci.
Požadavky na kybernetickou bezpečnost. Nařízení o strojních zařízeních se poprvé výslovně zabývá kybernetickou bezpečností. Humanoidní roboti připojení k sítím – což jsou v podstatě všichni – musí být chráněni proti neoprávněnému přístupu, manipulaci a poškození dat. To zahrnuje bezpečné mechanismy aktualizace softwaru, řízení přístupu a opatření pro zabezpečení sítě.
Podstatná úprava. Nařízení objasňuje, kdy úpravy stávajících strojních zařízení vyvolávají nové posouzení shody. Pro humanoidní roboty, které dostávají časté softwarové aktualizace (nové pracovní postupy, aktualizované modely AI, změněné bezpečnostní parametry), je klíčové pochopit, kdy aktualizace představuje „podstatnou úpravu“. Ne každá softwarová aktualizace vyvolává nové posouzení, ale změny, které ovlivňují bezpečnostní funkce robota nebo jeho zamýšlené použití, pravděpodobně ano.
Samočinné učící se systémy. Nařízení uznává, že některé stroje zahrnují schopnosti AI a strojového učení. U těchto systémů musí výrobci zajistit, aby stroj zůstal bezpečný po celou dobu svého učení – nejen při počátečním nasazení. To má přímé důsledky pro humanoidní roboty, které přizpůsobují své chování na základě provozních zkušeností.
Pro splnění Nařízení EU o strojních zařízeních musí výrobci nasazující humanoidní roboty:
- Provést důkladné posouzení rizik pokrývající všechna předvídatelná nebezpečí
- Použít základní požadavky na ochranu zdraví a bezpečnost (EHSR) definované v příloze III
- Připravit technickou dokumentaci (která nyní může být digitální)
- Vydat EU prohlášení o shodě
- Připevnit označení CE
OEM robotu je obvykle odpovědný za označení CE samotného robota. Ale výrobce nasazující robota je odpovědný za zajištění toho, aby celkový systém – robot, pracovní prostor, integrace a provozní postupy – byl bezpečný a v souladu s předpisy.
Důsledky Aktu EU o umělé inteligenci
Akt EU o umělé inteligenci (Nařízení 2024/1689) je prvním komplexním nařízením o umělé inteligenci na světě. Vstoupil v platnost v srpnu 2024, přičemž různá ustanovení se stávají použitelnými postupně až do roku 2027.
Pro humanoidní roboty je Akt o umělé inteligenci relevantní, protože tito roboti jsou řízeni systémy AI – od vnímání a navigace po plánování úkolů a interakci s lidmi. Akt o umělé inteligenci klasifikuje systémy AI do rizikových kategorií a tato klasifikace určuje regulační požadavky.
Vysoce rizikové systémy AI. Systémy AI používané jako bezpečnostní komponenty produktů, které samy podléhají posouzení shody třetí stranou (jako jsou stroje podle Nařízení o strojních zařízeních), jsou klasifikovány jako vysoce rizikové. To znamená, že systémy AI řídící humanoidní roboty ve výrobních prostředích budou s velmi vysokou pravděpodobností klasifikovány jako vysoce rizikové podle Aktu o umělé inteligenci.
Vysoce rizikové systémy AI musí splňovat požadavky, včetně:
- Řízení rizik. Nepřetržitý proces řízení rizik po celou dobu životního cyklu systému AI.
- Správa dat. Tréninkové, validační a testovací datové sady musí splňovat kritéria kvality.
- Technická dokumentace. Podrobná dokumentace návrhu, vývoje a zamýšleného účelu systému AI.
- Vedení záznamů. Automatické zaznamenávání událostí během provozu pro umožnění sledovatelnosti.
- Transparentnost. Jasné informace pro uživatele o schopnostech, omezeních a zamýšleném použití systému AI.
- Lidský dohled. Systém AI musí být navržen tak, aby umožňoval účinný lidský dohled, včetně schopnosti zasáhnout a přepsat.
- Přesnost, robustnost a kybernetická bezpečnost. Systém AI musí dosahovat odpovídající úrovně přesnosti a být odolný vůči chybám, poruchám a nepřátelským útokům.
Pro výrobce nasazující humanoidní roboty je praktickým důsledkem to, že potřebují mít přehled o systémech AI běžících na jejich robotech. To znamená spolupracovat se svým dodavatelem robotů a poskytovatelem softwaru, aby bylo zajištěno, že jsou zavedeny potřebné mechanismy dokumentace, protokolování a dohledu.
Posouzení rizik pro každé nasazení
Jednou z nejdůležitějších činností v oblasti souladu s předpisy je posouzení rizik specifické pro dané nasazení. To přesahuje obecné posouzení rizik prováděné OEM robotu. Hodnotí specifická nebezpečí přítomná ve Vašem zařízení, s Vašimi pracovníky, při provádění Vašich úkolů.
Důkladné posouzení rizik specifické pro dané nasazení by mělo pokrývat:
Fyzická nebezpečí. Jaké jsou potenciální scénáře kontaktu mezi robotem a lidskými pracovníky? Jaké síly a rychlosti jsou zapojeny? Existují místa skřípnutí, drtící zóny nebo oblasti, kde by mohl být pracovník uvězněn?
Environmentální nebezpečí. Jaké jsou podmínky podlahy? Jsou tam svahy, překážky nebo mokré povrchy? Jaké je osvětlení? Existují extrémní teploty, které by mohly ovlivnit výkon robota?
Nebezpečí specifická pro úkol. Jaké předměty robot manipuluje? Jsou ostré, horké, těžké nebo křehké? Co se stane, když robot upustí předmět? Jaké jsou důsledky nesprávně provedeného úkolu?
Nebezpečí interakce. Jak lidští pracovníci interagují s robotem? Existují sdílené cesty? Sdílená pracovní místa? Předávací body, kde člověk přijímá předmět od robota?
Kybernetická bezpečnostní rizika. Co se stane, když se přeruší síťové připojení robota? Co když neoprávněný uživatel získá přístup k systému správy flotily? Co když softwarová aktualizace zavede chybu v bezpečnostně kritickém chování?
Posouzení rizik by mělo vyústit v dokumentovaný seznam nebezpečí, hodnocení rizik a opatření ke zmírnění. Mělo by být revidováno vždy, když se nasazení změní – nové úkoly, nové uspořádání pracovního prostoru, nové modely robotů nebo významné softwarové aktualizace.
Bezpečnost od návrhu v platformách pro nasazení robotů
Softwarová platforma používaná k vytváření pracovních postupů a správě humanoidních robotů hraje klíčovou roli v bezpečnosti. Dobře navržená platforma integruje bezpečnost na architektonické úrovni, spíše než aby ji považovala za doplněk.
Klíčové principy bezpečnosti od návrhu pro tyto platformy zahrnují:
Hranice chování. Platforma by měla vynucovat pevné limity chování robota – maximální rychlosti, omezení síly, povolené pracovní zóny – které nelze přepsat pokyny k úkolům nebo učením AI. Tyto hranice by měly být konfigurovatelné pro každé nasazení a pro každý model robota.
Validace před provedením. Když je vytvořen nový pracovní postup nebo platforma generuje pokyny k úkolům, měla by tyto pokyny ověřit proti bezpečnostním pravidlům před jejich odesláním robotu. Úkoly, které porušují bezpečnostní omezení, by měly být odmítnuty s jasným vysvětlením.
Auditní záznamy. Každý pokyn odeslaný každému robotu by měl být zaznamenán, spolu se zdrojem pokynu (lidský operátor, tvůrce pracovního postupu, automatizovaný plán) a výsledkem. To vytváří sledovatelnost požadovanou jak Nařízením o strojních zařízeních, tak Aktem o umělé inteligenci.
Postupné selhání. Když robot narazí na neočekávanou situaci, platforma by měla standardně přejít na bezpečné chování – zastavení, ústup do bezpečné polohy nebo vyžádání lidského zásahu. Systém by se nikdy neměl „hádat“ v nejednoznačném bezpečnostním scénáři.
Řízení přístupu na základě rolí. Ne každý uživatel by měl mít možnost měnit bezpečnostní parametry. Platforma by měla vynucovat řízení přístupu na základě rolí, které odděluje provozní úkoly (přiřazování pracovních postupů, plánování) od bezpečnostní konfigurace (rychlostní limity, prahy síly, hranice zón).
Praktický kontrolní seznam pro soulad s předpisy
Pro výrobce připravující se na nasazení humanoidních robotů v evropském výrobním prostředí je zde praktický kontrolní seznam:
Před pořízením:
- [ ] Potvrďte, že robot má označení CE podle příslušné směrnice nebo nařízení
- [ ] Vyžádejte si od OEM EU prohlášení o shodě a technickou dokumentaci
- [ ] Ověřte, které režimy kolaborativního provozu robot podporuje (ISO/TS 15066)
- [ ] Pochopte používané systémy AI a jejich klasifikaci rizik podle Aktu EU o umělé inteligenci
- [ ] Vyhodnoťte bezpečnostní funkce platformy pro správu flotily (hranice chování, auditní záznamy, řízení přístupu)
Před nasazením:
- [ ] Proveďte posouzení rizik specifické pro dané nasazení, pokrývající fyzická, environmentální, úkolově specifická, interakční a kybernetická bezpečnostní rizika
- [ ] Navrhněte uspořádání pracovního prostoru s bezpečnostními zónami, nouzovými zastaveními a jasným značením
- [ ] Nakonfigurujte limity chování robota (rychlost, síla, pracovní zóny) odpovídající nasazení
- [ ] Zaveďte školicí programy pro operátory pokrývající normální provoz, nouzové postupy a bezpečnostní protokoly
- [ ] Nastavte monitorovací a protokolovací systémy pro regulační sledovatelnost
Během provozu:
- [ ] Nepřetržitě monitorujte chování robota a výkon flotily
- [ ] Revidujte a aktualizujte posouzení rizik, když se změní úkoly, uspořádání nebo software
- [ ] Udržujte záznamy o incidentech a téměř nehodách
- [ ] Zajistěte, aby byly softwarové aktualizace vyhodnoceny z hlediska bezpečnostního dopadu před nasazením
- [ ] Provádějte pravidelné bezpečnostní audity s kvalifikovaným personálem
Průběžně:
- [ ] Sledujte regulační vývoj – ustanovení Aktu EU o umělé inteligenci se stále zavádějí postupně
- [ ] Zapojte se do průmyslových pracovních skupin pro bezpečnostní normy humanoidních robotů
- [ ] Kontrolujte bezpečnostní doporučení OEM a neprodleně aplikujte záplaty
- [ ] Dokumentujte všechny činnosti související se souladem s předpisy pro případnou regulační kontrolu
Bezpečně vpřed
Regulační požadavky na nasazení humanoidních robotů v Evropě jsou náročné, ale nejsou nepřekonatelné. Odrážejí oprávněné obavy o bezpečnost pracovníků a důvěru veřejnosti v systémy poháněné umělou inteligencí.
Výrobci, kteří přistupují k souladu s předpisy proaktivně – začleňují jej do svého plánování nasazení od prvního dne – zjistí, že tento proces skutečně zlepšuje jejich provoz. Důkladné posouzení rizik identifikuje skutečná nebezpečí. Správná dokumentace vytváří institucionální znalosti. Auditní záznamy umožňují neustálé zlepšování.
Výrobci, kteří se potýkají se souladem s předpisy, jsou obvykle ti, kteří jej považují za dodatečnou záležitost – nejprve nasadí a teprve později se snaží dodatečně zavést bezpečnostní opatření. Tento přístup je dražší, rušivější a s větší pravděpodobností povede k mezerám.
Závěr: nasazení humanoidních robotů v Evropě je naprosto dosažitelné v rámci stávajícího regulačního rámce. Vyžaduje to jednoduše plánování, správné partnery a závazek k bezpečnosti jako k prvnímu principu, nikoli jako k povinnosti.