Rizika používání ChatGPT nebo jiné umělé inteligence ve firmě

Společnost Microsoft představil svého Copilota, který bude integrován do Microsoftu 365 a Dynamics 365. Více informací o tomto systému se dočtete v "Představujeme Microsoft 365 Copilot – vašeho kopilota pro práci – Microsoft News Center".

Velmi rychle na to reagovala společnost Google a informovala o přípravě nasazení umělé inteligence ve formě „magické hůlky“, která bude integrována do kancelářských služeb Google Workspace.

Není pochyb o tom, že by se nejednalo o senzační objev. Technologie umělé inteligence vám může velmi dobře pomoci s daleko intuitivnějším hledáním, tvorbou obsahu, překlady, programováním, analýzami a produktivitou. Systém vám může poradit vhodný dárek, nebo vymyslet příběh či pohádku nebo si můžete povídat o odborných tématech. Dá se říci, že funkcionality umělé inteligence jsou téměř neomezené.

Nicméně je zde zatím spoustu ALE a je třeba se mít velmi na pozoru. Technologie je na světě a nezadržitelně se šíří v používání po celém světě. Politikové a vlády bohužel zaspali a zatím není nic regulováno a řízeno. Kromě Itálie, která razantně zasáhla a dočasně ChatGPT zakázala. Přidávají se však i soukromé společnosti z nichž jmenujme například Samsung. Právní otázky týkající se umělé inteligence má upravit nový právní předpis Evropské unie, takzvaný AI Act, ale zatím není jisté, kdy bude platný.

Chceme tak nyní upozornit na rizika používání ChatGPT a dalších podobných nástrojů využívajících umělou inteligenci. Aktuálně upřímně nikdo nevíme co se děje a nemáme nad těmito nástroji žádnou kontrolu. Když se začtete do podmínek používání tak naleznete informace, že Vámi zadávané data mohou být používána ke zlepšování služeb. Principem založeném na machine learnimng je tréning na obrovském množství dat, které poskytují uživatelé a nelze ta vyloučit, že se Vaše vstupní data objeví jako výstup u jiného uživatele což vnímáme jako obrovské riziko. Jednoduše, když zadáte jakékoliv informace do ChatGPT nebo jiné podobné služby, ztrácíte nad nimi kontrolu. Dostáváme se tak k možným právním následkům při nesprávném používání těchto služeb jako je porušení obchodního tajemství a povinnosti mlčenlivosti, porušení povinností při zpracování osobních údajů, porušení autorských práv, porušení pracovní kázně.

Umělé inteligence, jakou je například ChatGPT je skvělý nástroj a určitě bude do budoucna velkým pomocníkem. Je však nutné tyto nástroje správně používat. V případě, že chcete tyto nástroje požívat, doporučujeme Vám provést analýzu rizik a upravit vnitřní předpisy a směrnice týkající se ochrany dat, osobních údajů a obchodního tajemství. Pokud nejsou tyto úkony provedeny a zaměstnanci seznámeni doporučujeme tyto nástroje do té doby nepoužívat.

A pokud se přece jen rozhodnete nástroje vyzkoušet dodržujte základní zásadu:
„Nevkládejte žádná taková citlivá data!“

Pokud máte strach, že by Vaši pracovníci mohli používat tyto nástroje nevhodným způsobem a mohla by tak být ohrožena Vaše firemní data, můžeme Vám pomoci nastavit pravidla zabezpečení tak, aby to nebylo možné.