Tartalom
Bemutatja: AltaML
K:
Miért gondolkodnak egyes vállalatok az "emberi visszacsatolás-ellenőrzés" hozzáadásáról a modern AI-rendszerekhez?
A:
Néhány, az élvonalbeli AI technológiával foglalkozó vállalat ezen rendszerek emberi vezérlésének bevezetésén dolgozik, a gépi tanulás és a mély tanulás eszközöinek közvetlen emberi felügyeletet biztosítva. Ezek a vállalatok sem kis szereplők - a Google DeepMind és Elon Musk OpenAI két példája a nagyobb vállalatoknak, amelyek gyakorlati segítséget kapnak a mesterséges intelligencia terén. Ezt szem előtt tartva, az eredmények különböznek - például a DeepMind vita tárgyát képezte a nyilvánosság számára észlelt hajlandóság hiányában a kulcsfontosságú adatok közlése szempontjából, míg az OpenAI jóval több, nyisd ki a mesterséges intelligencia ellenőrzésével kapcsolatos munkájáról.
Még az olyan figyelemreméltó dolgok is, amilyeneket Bill Gates mérlegel a témában. Gates azt mondta, hogy ő egyike azon soknak, akiket aggódik egy olyan mesterséges szuper intelligencia kialakulása miatt, amely bizonyos értelemben túlmutathat az emberi kontroll felett. Musk a maga részéről is aggasztó nyelvet adott ki a „gazember AI” lehetőségéről.
Valószínűleg ez a sürgõsebb ok, hogy a vállalatok azon dolgoznak, hogy az emberi kontrollokat az AI-hez alkalmazzák - az az elképzelés, hogy bizonyos technológiai szingularitás olyan nagyhatású érzékszervi technológiát eredményez, amelyet az emberek egyszerûen nem tudnak irányítani. Az emberi ambíciók hajnalától kezdve eszközöket helyezünk a helyére, hogy megbizonyosodjunk arról, hogy meg tudjuk-e irányítani a hatalmunkat - legyen szó lóról, gyeplővel és hevederekkel, szigetelt vezetékekben lévő elektromos árammal, vagy bármilyen más irányító mechanizmussal A vezérlés veleszületetten emberi funkció, és ezért a világban minden értelme annak, hogy ahogyan a mesterséges intelligencia közelebb kerül a valós funkcionalitáshoz, az emberek saját közvetlen irányításukat alkalmazzák, hogy ellenőrizzék ezt az erőt.
Ugyanakkor a szuper intelligens robotoktól való félelem nem az egyetlen oka annak, hogy a vállalatok az emberi vezérléseket alkalmazzák a gépi tanulásra és az AI projektekre. Egy másik fő ok a gépi torzítás - az az elképzelés, hogy a mesterséges intelligencia rendszerek gyakran korlátozottak abban, hogy miként értékelik a kérdéses adatokat -, hogy felerősítsék a rendszerben rejlő esetleges torzítást. A legtöbb gépi tanulással foglalkozó szakember szörnyű történeteket mesélhet az informatikai rendszerekről, amelyek nem voltak képesek egyformán kezelni az emberi felhasználói csoportokat - legyen az nemi vagy etnikai egyenlőtlenség, vagy a rendszer valamilyen más hibája, hogy valóban megértsük emberi társadalmaink és hogyan lépünk kapcsolatba az emberekkel.
Bizonyos értelemben az emberi vezérlést a rendszerekre tehetjük, mert attól tartunk, hogy túl erősek lehetnek - vagy váltakozva, mert attól tartunk, hogy lehet, hogy nem elég erősek. Az emberi vezérlés segítséget nyújt a gépi tanulás adatkészleteinek megcélzásában a nagyobb pontosság érdekében. Segítik azoknak az ötleteknek a megerősítését, amelyeket a számítógép egyszerűen önmagában nem tud megtanulni, akár azért, mert a modell nem elég kifinomult, mert az AI még nem halad előre elég messzire, vagy mert egyes dolgok csak az emberi megismerés tartományában fekszenek. A mesterséges intelligencia bizonyos dolgok számára nagyszerű - például egy jutalom-és pontszámalapú rendszer lehetővé tette a mesterséges intelligencia számára, hogy megverje az emberi játékosokat a rendkívül összetett „Go” társasjátéknál, de más dolgok esetében ez az ösztönző alapú rendszer teljesen elégtelen.
Dióhéjban számos kényszerítő ok van arra, hogy az emberi felhasználókat közvetlenül bevonjuk a mesterséges intelligencia projektek működésébe. Még a legjobb mesterséges intelligencia technológiák is önmagában sokat tudnak gondolkodni - de valódi biológiai emberi agy nélkül, amely olyan dolgokat képes feldolgozni, mint az érzelmek és a társadalmi szokások, egyszerűen nem látják a nagy képet emberi módon.
Képzett gépi tanuló cég elősegítheti az egyensúly elérését az üzleti és tárgyi szakértők, valamint a nagy üzleti problémák megoldásához szükséges gépi tanulási fejlesztők keverékével.
