Podle zprávy ze středečního místního času v agentuře Reuters představitelé Bílého domu potvrdili, že generální ředitelé společností Google, Microsoft, OpenAI a Anthropic, společnosti zabývající se výzkumem umělé inteligence (AI), se ve čtvrtek setkají s americkou viceprezidentkou Kamalou Harrisovou a vysokými vládními úředníky. místního času k projednání klíčových problémů AI.
Představitel Bílého domu prozradil, že Harris a vládní úředníci na schůzce řeknou těmto firemním manažerům zapojeným do oblasti umělé inteligence, že mají odpovědnost za snížení potenciálního poškození nástrojů umělé inteligence. Americký prezident Biden ve zvacím dopise také doufal, že technologické společnosti musí zajistit bezpečnost svých produktů, než je nabídnou veřejnosti.
Minulý měsíc Biden zdůraznil nutnost dohledu nad produkty souvisejícími s umělou inteligencí, i když řekl, zda umělá inteligence představuje skutečnou hrozbu, se teprve uvidí. Biden uvedl, že sociální média vysvětlila škody, které může výkonná technologie AI způsobit bez řádných ochranných opatření.
Ve skutečnosti od loňského příchodu ChatGPT vyvolal velkou společenskou kontroverzi. Vzhledem k tomu, že schopnosti AI daleko předčily očekávání lidí, obavy kritiků z rychle se rozvíjející technologie AI zahrnují narušení soukromí, předsudky, podvody a šíření fám a nepravdivých informací. Technologičtí lídři také nedávno vyzvali k obezřetnosti vůči rizikům, která AI přináší.
29. března tisíce vědců a techniků společně zveřejnily otevřený dopis, v němž vyzývají všechny laboratoře umělé inteligence, aby okamžitě pozastavily výcvik systémů výkonnějších než GPT-4, dokud nebudou vyřešena související rizika a problémy. Tato výzva získala velkou pozornost a odezvu. Za pouhé dva dny ji podepsalo více než 2300 lidí.
Geoffrey Hinton, „kmotr umělé inteligence“, který nedávno oznámil svůj odchod z Googlu, uvedl, že se obává, že internet bude plný falešných fotografií, videí a slov a obyčejní lidé „už nebudou moci rozlišovat pravdu od lži“. . Kromě toho se Hinton také obává, že „budoucí verze“ technologie bude představovat hrozbu pro lidské bytosti, protože „často se naučí neočekávané chování z velkého množství analyzovaných dat“ a nelze si představit, jak zabránit špatným lidem, aby pomocí AI dělat špatné věci.
Hinton uvedl, že umělá inteligence nejenže povede k zániku velkého množství pracovních míst, ale také způsobí, že lidé nebudou moci vědět, co je skutečné. Pokud se umělá inteligence stane mnohem chytřejší než lidské bytosti, bude s lidmi manipulovat; Když umělá inteligence umí programovat, pokusí se obejít omezení stanovená lidmi.
Ve skutečnosti je hrozba již zřejmá. IBM například nahradí více než 7{1}} pracovních míst umělou inteligencí. Krishna, generální ředitel IBM, 1. května řekl, že nábor interních funkčních oddělení, jako jsou lidské zdroje společnosti, bude pozastaven nebo odložen, a existuje asi 26,{4}} pozic, které nejsou přímo zaměřeny na zákazníky v IBM. V příštích pěti letech bude 30 procent pracovních míst nahrazeno umělou inteligencí a automatizací. To znamená, že o práci přijde asi 7800 lidí.
V současnosti vlády po celém světě aktivně hledají regulační opatření, aby dohnaly tempo technologického pokroku. Ve Spojených státech si ministerstvo obchodu minulý měsíc oficiálně vyžádalo názory a požádalo všechny sektory, aby se vyjádřily k opatřením odpovědnosti umělé inteligence. Kromě Spojených států zrychlují dohled nad technologií umělé inteligence také zákonodárci EU.
Minulý týden Evropská unie navrhla nový návrh legislativy, který požaduje, aby vývojáři nástrojů umělé inteligence, jako je ChatGPT, zveřejnili materiály chráněné autorským právem, které používali při budování systémů umělé inteligence. Jako regulační schéma navrhla Vestagerová, výkonná viceprezidentka a komisařka pro hospodářskou soutěž Evropské komise, schéma zobrazování štítků jako „vyrobeno s umělou inteligencí“ na článcích a obrázcích generovaných umělou inteligencí a také odhalila myšlenku, že podniky, které poskytují generativní AI jsou povinni vysvětlit.
Zákonodárci EU stále diskutují o tom, jak zavést zákon EU o umělé inteligenci, a generativní AI (AIGC) se stala jedním z nejvíce znepokojených obsahů. Evropská komise bude o příslušné dohodě hlasovat 11. května. Pokud bude schválen, vstoupí do další fáze tripartitních jednání, kdy členské státy EU budou o obsahu jednání diskutovat s Evropskou komisí a Evropským parlamentem.
Yang Haiping, výzkumník z Výzkumného ústavu cenných papírů a futures na Centrální univerzitě financí a ekonomie, uvedl, že pokud nebude generativní umělá inteligence regulována, mohou existovat rizika zabezpečení dat a zabezpečení sítě, stejně jako dopady na výrobní zakázku. , životní řád a společenský řád způsobený zneužitím a zneužitím umělé inteligence. A co je důležitější, protože generativní umělá inteligence generuje text, obrázky, zvuky, videa, kódy a další obsah na základě algoritmů, modelů a pravidel, pokud nebude posílena odpovědnost poskytovatelů a nebude zaveden přísný dohled, technologické inovace mohou prorazit spodní linie vědecké a technologické etiky, odchylují se od směru vědeckotechnické dobroty a způsobují nevyčíslitelné a nenapravitelné ztráty.
Yang Haiping uvedl, že zahraniční vědci vyzvali k pozastavení vývoje výkonnějších systémů umělé inteligence a Čína zavedla nové předpisy pro správu služeb generativní umělé inteligence, to vše v kritickém okamžiku, kdy umělá inteligence učinila klíčový průlom, a racionální preventivní opatření. byly přijaty proti možným rizikům umělé inteligence. Dohled nad umělou inteligencí vyžaduje, aby mezinárodní společenství posoudilo a vytvořilo jednotnou a jasnou bezpečnostní linii, kterou by se měly řídit všechny země.