Umelá inteligencia je úžasná technológia, ktorá mení svet neuveriteľným spôsobom, no každý kto videl film Terminátor vie, že s vývojom umelej inteligencie prichádza nielen pokrok, ale aj nebezpečenstvo. Preto Elon Musk, Stephen Hawking, a stovky ďalších vedcov a technologických lídrov podporili list 23 princípov, ktoré by mali nasmerovať vývoj umelej inteligencie produktívnym, etickým a hlavne bezpečným smerom.

“Asilomar A.I. Principles”, teda princípy umelej inteligencie boli zformulované na konferencií “2017 Asilomar Conference”, po tom čo “Future of Life Institute”, teda Inštitút budúcnosti života, priviedol dokopy stovky expertov. Experti z odborov ako robotika, fyzika, ekonomika, filozofia a mnoho ďalších viedli hlbokú debatu o bezpečnosti umelej inteligencie, o ekonomickom dopade na ľudských pracovníkov, či morálne programovacie hodnoty a o ďalších dôležitých témach. Na to aby sformulovali konečný list princípov, na každom jednom sa muselo zhodnúť aspoň 90% všetkých zúčastnených expertov.

Toto vysvetlenie sa objavilo na stránkach Inštitútu budúcnosti života:

“Na konci teda ostalo 23 princípov zahrňujúce rôzne témy, od stratégie vývoja, cez práva informácií, až po potencionálne problémy so super inteligenciou v budúcnosti. Tento list na konci podpísali všetci, ktorí mali záujem o to, aby ich meno s týmito princípmi bolo spojené. Táto zbierka princípov nie je určite konečná a rozhodne otvára dvere rôznym interpretáciám, ale tak isto zvýrazňuje ako dnešný štandardný prístup vo veľa relevantných problémoch môže porušiť princípy, ktoré väčšina účastníkov považuje za dôležité.”

Od tejto konferencie už vyše 890 výskumníkov umelej inteligencie a robotiky, vrátane výkonného riaditeľa Tesla Inc. Elona Muska a Stephena Hawkinga, podporilo tieto princípy.

Dodržiavanie niektorých princípov ako napríklad otvorenosť výskumu a zdieľanie objavov medzi rôznymi firmami zaoberajúcimi sa vývojom umelej inteligencie je nepravdepodobné. Aj keď 23 princípov nebude plne implementovaných, ich existencia môže napomôcť zlepšeniu vývoja a etickosti umelej inteligencie a zaistí, že “SKYNET” nikdy nevznikne.

List princípov umelej inteligencie:

  1. Cieľ výskumu: Cieľom výskumu umelej inteligencie by malo byť vytvorenie prospešnej inteligencie, nie nekontrolovateľnej neusmernenej inteligencie.
  2. Financovanie výskumu: Investovanie do umelej inteligencie by malo vyžadovať investovanie do výskumu zabezpečujúcemu jej prospešné využitie. Tento výskum by mal skúmať otázky vývoja, ekonomickosti, právnosti, etickosti, či sociálnosti, ako napríklad:
    • Ako vyvinúť umelú inteligenciu natoľko kontrolovateľnú a bezpečnú, že bude robiť presne to čo od nej očakávame bez porúch alebo možnosti hacknutia.
    • Ako môžeme prosperovať a rásť ako druh a spoločnosť vďaka automatizácií, no nestratiť ľudské zdroje a účel.
    • Ako môžeme pozmeniť náš právny systém aby bol spravodlivejší a efektívnejší, aby udržal krok s umelou inteligenciou a mohol kontrovať risk, ktorý umelá inteligencia prináša.
    • Aké hodnoty by mala umelá inteligencia uznávať a aké by mala mať práva.
  3. Spolupráca výskumu a politiky: Medzi politikmi a výskumníkmi by mala fungovať neustála otvorená a konštruktívna komunikácia.
  4. Kultúra výskumu: Kultúra spolupráce, dôvery a otvorenosti by mala byť vytvorená medzi vedcami a vývojármi umelej inteligencie.
  5. Vyvarovanie sa súťaživosti: Teamy pracujúce na vývoji umelej inteligencie by mali aktívne spolupracovať a vyvarovať sa súťaživosti, ktorá by viedla k zanedbaniu bezpečnostných štandardov.
  6. Bezpečnosť: Systémy umelej inteligencie by mali byť skrz na skrz zabezpečené počas ich používania a testovatelne vyvíjané na zaručenie bezpečnosti.
  7. Transparentnosť zlyhania: Pokiaľ hocijaký autonómny systém umelej inteligencie spôsobí škodu či ujmu, malo by byť možné zistiť a zaručiť prečo sa tak stalo.
  8. Justičná transparentnosť: Pokiaľ bude hocijaký autonómny systém zapojený do justičného systému, každé rozhodnutie by malo byť odôvodniteľné ľudskej autorite.
  9. Zodpovednosť: Vývojári a výskumníci umelej inteligencie sú zodpovední za morálne implikácie ich systémov a ich použitia. Rovnako majú možnosť vytvárať a formovať tieto implikácie.
  10. Zdieľanie hodnôt: Vysoko autonómne systémy umelej inteligencie by mali byť dizajnované tak, aby ich ciele a správanie boli v súlade s ľudskými hodnotami.
  11. Ľudské hodnoty: Systémy umelej inteligencie by mali byť vyvíjané a fungovať tak, aby boli kompatibilné s ideálmi ľudskej dôstojnosti, práv, slobôd a kultúrnej rozmanitosti.
  12. Osobné súkromie: Ľudia by mali mať právo a možnosť prístupu, spravovania a kontroly dát, ktoré vytvárajú, vzhľadom na schopnosť umelej inteligencie analyzovať a využívať tieto dáta.
  13. Sloboda a súkromie: Využitie osobných dát umelou inteligenciou by nemalo obmedziť naozajstnú či vnímanú ľudskú slobodu.
  14. Zdielané výhody: Technológia umelej inteligencie by mala zvýhodňovať a napomáhať čo najviac ľuďom.
  15. Zdielaný blahobyt: Ekonomický blahobyt vytvorený umelou inteligenciou by mal byť zdielaný a mal by benefitovať celému ľudstvu.
  16. Ľudská kontrola: Ľudia by mali byť schopní voľby, ktoré rozhodnutia zveria do rúk umelej inteligencie.
  17. (Ne)rozvracanie: Moc, ktorú prinesie ovládanie vysoko inteligentnej umelej inteligencie, by mala priniesť prosperitu a zlepšiť, skôr než rozvrátiť, ľudskú spoločnosť a civilné procesy na ktorých jej existencia stojí.
  18. Zbrojenie: Zbrojeniu smrteľnými autonómnymi zbraňami by sme sa mali vyhnúť.
  19. Pristupovať obozretne k schopnostiam: Kedže neexistuje konsenzus, mali by sme sa vyhnúť predpokladom limitov schopností umelej inteligencie.
  20. Dôležitosť: Umelá inteligencia bude reprezentovať hlbokú zmenu v histórií života na zemi. Táto zmena by mala byť plánovaná a spravovaná s opatrnosťou a prostriedkami, ktoré takáto zmena vyžaduje.
  21. Risky: Umelá inteligencia predstavuje určité risky, špeciálne katastrofické a existenciálne. Preto snaha o zmiernenie risku by mala byť súčasťou plánovania a mala by byť úmerná predpokladanému dopadu umelej inteligencie.
  22. Rekurzívne zdokonalovanie sa: Systémy umelej inteligencie, ktoré dokážu samé seba zdokonalovať a replikovať, a vedú k rapídnemu zvýšeniu kvality a kvantity týchto systémov musia byť prísne strážené a kontrolovateľné.
  23. Spoločenské dobro: Super inteligencia by mala byť vyvinutá iba v službách široko rozšírených etických ideálov a pre úžitok celého ľudstva radšej než jedného štátu či organizácie.

Zdroj: inverse

ZANECHAŤ ODPOVEĎ

Please enter your comment!
Please enter your name here