Úgy tűnik, hogy egy hónap nem telik el, anélkül, hogy néhány magas rangú ember kommentálná a mesterséges intelligenciával rendelkező gépek lehetőségeit a világ elfoglalására. Elon Musk nyilvántartásában azt állítja, hogy az AI rendszerek „potenciálisan veszélyesebbek, mint a szemetek”. De ő nem az egyetlen, Stephen Hawking is aggódik: „A teljes mesterséges intelligencia kifejlesztése megfogalmazhatja az emberiség végét”. Hawking professzor elmondta a BBC-nek. „Ez önmagában elindul, és egyre növekvő ütemben alakítja át magát.” Még Bill Gates is aggódik: „A táborban vagyok, ahol aggódik a szuper intelligencia. Egyetértek Elon Muskkal és másokkal ebben, és nem értem, miért nem érinti egyes embereket. "
Mindannyian aggodalmukat fejezik ki amiatt, hogy hatalmas AI rendszerek nem szándékos vagy akár potenciálisan katasztrofális következményekkel is járhatnak. Januárban Elon Musk 10 millió dollárt adományozott az Élet Jövő Intézetének (FLI) egy globális kutatási program futtatására, amelynek célja az AI hasznának tartása az emberiség számára.
A Future of Life Institute ma bejelentette, hogy 7 millió dollár pénzeszközt ítél oda 37 kutatócsoportnak szerte a világon, hogy a társadalom élvezhesse az AI előnyeit, elkerülve ugyanakkor az apokalipszis és a földi élet végét.
A Terminator-forgatókönyv veszélye nem az, hogy megtörténik, hanem az, hogy elvonja a figyelmet a jövőbeli AI valódi problémáitól.
Jaan Tallin, az FLI egyik alapító tagja és a Skype eredeti változatát író srác azt mondta az új kutatásról: „A fejlett AI építése olyan, mint egy rakéta indítása. Az első kihívás a gyorsulás maximalizálása, de amint elkezdi felvenni a sebességet, a kormányzásra is összpontosítania kell. ”
A 37 projekt közül három olyan projekt, amelyek olyan technikákat vizsgálnak meg, amelyek lehetővé teszik az AI rendszerek számára, hogy megtanulják, hogy az emberek mi kedvelik a viselkedésünk megfigyelését. Az egyik ilyen projektet az UC Berkeley-nél, az egyik pedig az Oxfordi Egyetemen fogják végrehajtani.
Benja Fallenstein, a Gépi Intelligencia Kutatóintézet 250 000 dollárt keres annak kutatására, hogy miként lehet a szuperintelligens rendszerek érdekeit összhangba hozni az emberi értékekkel. Míg Manuela Veloso csapata, a Carnegie-Mellon Egyetemen 200 000 dollárt fog kapni, hogy megvizsgálja, hogyan lehetne az AI rendszereket magyarázni döntéseikkel az emberek számára.
Egyéb projektek között szerepel egy Michael Webb, a Stanfordi Egyetem tanulmánya arról, hogyan lehet az AI gazdasági hatásait fenntartani, egy projekt az AI által vezérelt fegyverek „értelmes emberi irányítás alatt” tartására, valamint egy új Oxford-Cambridge kutatóközpont az AI tanulmányozására. - releváns politika.
Hollywoodról beszélve, az FLI megpróbálja leválasztani magát az apokalipszisről. Az FLI szívesen hangsúlyozza a tények és a kitalálás elválasztásának fontosságát. "A Terminator forgatókönyv veszélye nem az, hogy megtörténik, hanem hogy elvonja a figyelmet a jövőbeli AI által felvetett valós kérdésekről" - mondta Max Tegmark, az FLI elnöke. "Fókuszban vagyunk, és a mai támogatások által támogatott 37 csapatnak elő kell segítenie az ilyen valódi kérdések megoldását."
Mit gondolsz? Jól költött pénz?
