Tartalom
- Tolvaj elkapása. . .
- Nincsenek hibák, nincs stressz - Az Ön életét megváltoztató szoftverek készítésének lépésről lépésre történő leírása az élet megsemmisítése nélkül
- A terjedés leállítása
Forrás: Mast3r / Dreamstime.com
Elvitel:
A kutatók az AI-hez fordulnak a hamis hírek leküzdése érdekében. De valóban segíthet-e, vagy csak rosszabbá teszi a dolgokat?
A hamis hírek várhatóan komoly tüskék lesznek a közelgő elnökválasztás oldalán, nem is beszélve az általánosságban korróziós hatásáról általában a nyilvános diskurzusra. A mai összekapcsolt társadalomban a fikció tényeinek felismerése egyre nehezebbé válik, ezért egyes kutatók a probléma kezelése érdekében a mesterséges intelligencia erejére összpontosítanak.
A remény természetesen az, hogy a gépek vagy pontosabban az algoritmusok jobbak lesznek, mint az emberek a hazugság észlelésében. De ez reális elvárás, vagy csak egy újabb eset, amikor a dobástechnika egy látszólag kifogásolható probléma?
Tolvaj elkapása. . .
Az egyik módszer, amellyel az tudósok azt tervezik, hogy élesebbé tegyék az AI érzékét ezen a területen, az, hogy hamis híreket generálnak. A washingtoni egyetem Allen Intézetének AI Intézete kifejlesztette és nyilvánosan kiadta a Grover-t, egy természetes nyelvfeldolgozó motort, amely hamis történetek létrehozására szolgál számos témában. Noha ez először ellentmondásosnak tűnhet, ez valójában egy meglehetősen általános AI-képzési taktika, amelyben az egyik gép egy másik kimenetét elemzi. Ily módon az elemzési oldal sokkal gyorsabban felgyorsítható, mint a tényleges hamis hírekre támaszkodva. Az intézet azt állítja, hogy a Grover már 92% -os pontossággal működhet, de fontos megjegyezni, hogy csak az a képessége, hogy különbséget tegyen az AI által generált tartalom és az ember által létrehozott tartalom között, ami azt jelenti, hogy egy okos ember mégis hamis történetet tud eloszlatni. elmúlt. (További információkért nézze meg a hamis hírek elleni küzdelem technológiáit.)
A jobb kezekben természetesen Grover gyorsan elősegítheti a hamis hírek létrehozásának és terjedésének megértését, és ezt elméletileg felhasználhatjuk annak megakadályozására a való világban. De amint a Futurism.com a közelmúltban megjegyezte, néhány szakértő, akik a rendszert próbaüzemre választották, riasztónak számít, mennyire hatékonyan képes létrehozni hihető hazugságokat, sőt akár olyan legitim hírközpontok írási stílusát utánozza, mint például a Wall Street Journal és a New York. Times.
Mivel azonban a hazugság lényegében intuitív és érzelmek által vezérelt cselekedet, lehetséges, hogy még a legokosabb gépek, amelyeket még mindig hideg, kemény logika hajt végre, elérhetik-e a hazugság észleléséhez szükséges közismert megértés szintjét? Az Unbabel Maria Almeida a közelmúltban megjegyezte, hogy bár néhány iteráció nagyon jó lehet ebben, egyetlen algoritmus sem reméli, hogy teljes emberi megértést ér el. Ez azt jelenti, hogy az AI drámai fejlesztéseket tud tenni a tények ellenőrzésében és az összehasonlító elemzésben, ám a végső felhívást leginkább a képzett szakértőkre kell hagyni.
Ironikus módon, ez a képesség a leghasznosabb azoknak a mély hamis videóknak a felismerésében, amelyek a közösségi médiában kezdik fordulni. Ha az AI képes a vizuális adatokat elemezni egészen egyes pixelekig, sokkal jobban képes lesz a megváltozott képek megfigyelésére, mint a megváltozott szavak és fogalmak.
A Forbes Charles Towers-Clark érvelése szerint a hamis hírek központi problémája nem az, hogy néhány ember készíti ezeket, hanem hogy sok ember befolyásolja azt. Az emberek inkább azt hiszik, amit hinni akarnak, nem pedig azt, hogy mi a tények miatt hittek. Tehát akkor is, ha egy magasan fejlett AI-motor kijelenti, hogy téves a véleményük, az emberek jobban hajlamosak kételkedni a gépben, mint magukban.
„Csodálatos a hamis hírek elterjedése elleni gépi tanulás végrehajtása - mondja -, és ezt a problémát meg kell oldani, mivel a nagy médiahírek megbízhatóságát megkérdőjelezik. De a társadalmi média által összegyűjtött téves információk terjedésével képes-e a hamis hírek forrásainak felfedezése és feltárása legyőzni az emberi ösztönöt, hogy elhigyük azt, amit mondunk? "
Nincsenek hibák, nincs stressz - Az Ön életét megváltoztató szoftverek készítésének lépésről lépésre történő leírása az élet megsemmisítése nélkül
Nem javíthatja a programozási képességeit, ha senki sem törődik a szoftver minőségével.
Az igazi kihívás tehát nem a hamis hírek azonosítása és levonása, hanem annak megértése, hogy miért hajlamosak sokkal gyorsabban terjedni a közösségi médiában, mint az igazi hír. Ez részben magának a hamis hírnek a természetéből fakad, amely inkább izgalmas és ízléses, szemben a valóság összehasonlító unalmával. Végül reális elvárható-e a technológiától, hogy kijavítsa alapvetően nem műszaki problémát? (Ha többet szeretne megtudni arról, hogy az AI hogyan változtatja meg a médiát, olvassa el az 5 AI előrelépést a kiadványok és média részben.)
A terjedés leállítása
Ezért fontos, hogy az AI a hamis hírek technikai aspektusára összpontosítson, nem pedig az emberi szempontra - mondja a ZDNet Robin Harris. És valóban, a legtöbb kutató az AI-t arra képzi, hogy olyan kérdésekbe foglalkozzon, mint például a társadalmi hálózatokon keresztüli megkülönböztetés a természetes és a mesterséges terjedési minták között. Az olyan kulcsfontosságú mutatók, mint a konverziós fák aránya, a retweet időzítése és az általános válaszadatok, felhasználhatók a dezinformációs kampányok azonosítására és semlegesítésére akkor is, ha forrása a digitális alvilági rétegek alatt rejtett. Ugyanakkor az AI felhasználható más technológiák, például a blockchain kezelésére, nyomon követhető, ellenőrizhető információs csatornák fenntartására.
A tény az, hogy a hamis hírek nem új jelenség. A korai 20. századi mulatságos újságírásbólth században, egészen a legkorábbi civilizációk propagandájáig, a közvélemény elárasztása időigényes hagyomány mind ülő kormányok, mind a forradalmárok számára. A különbség manapság az, hogy a digitális technológia ezt a képességet demokratizálta arra a pontra, hogy szinte bárki feladhat hazugságot, és órák alatt megnézheti, hogyan terjed az egész világ.
Az olyan technológiák, mint az AI, minden bizonnyal segítenek bizonyos érthetőségben ebben a zavarban, de csak az emberek tudják teljes mértékben megérteni és megítélni az igazságot.