Találkozzon Diem-rel, az AI-meghajtású „Social Search Engine” -nek, amely úgy érezte magát, mint a baráti csevegés

Tegyük fel például, hogy meg akarod tudni, mennyibe kerül a tojás befagyasztása. Beírja ezt a kérdést a DIEM-be, és az AI-összetevő szélesebb internetes adatbázisát és DIEM felhasználó által hozzájárult tartalmát felhasználja egy számú válasz és egy hosszabb válasz előállításához. És mindkettőt megkapja, a témában szereplő összes közösség által generált hozzászólás mellett, abban az esetben, ha érdekli a görgetést.

Ilyen módon a Diem ötvözi az AI egyszerűségét a tényleges nők és a nem bináris emberek ismereteinek személyre szabásával-a nagyon anekdotikus információk és élettapasztalatok és az élettapasztalatok és pletyka gyakran az elfogultság miatt a keresőmotorok által deporientált (erről bővebben az alábbiakban). Bates szerint ez a kombináció, amely a DIEM -ről szóló információkat hasznosnak és közvetlenül alkalmazható ezeknek a közösségekből származó emberekre is. „Ahogyan az építésre mindig gondolkodtunk:„ Hogyan hozhatunk létre egy helyet, ahol kereshetünk közösségeinek kollektív betekintését?'" ő mondja. „Ha együtt tudsz épülni a közösségével, akkor ez formálja a hangot, az adatokat és a tapasztalatokat, és ez másképp érezheti magát."

A nemi elfogultság kérdése a keresőmotorokon és az AI platformon

Mivel a nemek közötti elfogultság a társadalom egészében elterjedt, az internetes keresési motor algoritmusokon belül is létezik, és táplálja a nemi információk közötti rést. Ugyanaz a különbség, amelyben Bates szembesült, amikor megpróbálja megtalálni az alkalmazható, relatable információkat a reggeli utáni tablettáról 2018-ban.

Bizonyítékként vegye figyelembe egy 2022-es tanulmány eredményeit, amelyre a kutatók megvizsgálták, hogy a Google-képek keresése a magasabb nemi szintű pontszámokkal rendelkező országokban (a globális nemek közötti különbséggel értékelve) a nemek közötti eltérést is bizonyítanák. Ehhez az első tanulmányuk során 37 ország helyi nyelvén kerestek a "személy" szóra, a második részükre 52 országban. Minden esetben a Google keresési eredményei olyan országokban, ahol a társadalmi nemek közötti egyenlőtlenség nagyobb, a nemek közötti különbségeket is felfedték (azaz az első 100 kép eredmények nagyobb százaléka azt mutatta, hogy egy férfi és egy nő).

Az új AI robotok azt is megállapították, hogy a nemek közötti torzítást tartják fenn. Például, Virágbloomberg arról számolt be, hogy egy számítási tudós megkapta a CHATGPT -t, hogy kiküldje azokat a kódexet, amelyek szerint csak az ázsiai vagy a fehér férfiak jó tudósokat tesznek; A társaság vezérigazgatója a Twitter tudósának válaszolt, és arra ösztönözte a felhasználókat, hogy "hüvelykujját" lehessen az ilyen válaszok, hogy segítsenek a programnak megtanulni, hogy ne terjesztsék az elfogultságot.

Amikor hasonló kérdést tettem fel a CHATGPT -nek, azt mondta, hogy nem helyénvaló valaki nemét vagy versenyét felhasználni annak meghatározására, hogy kiemelkednek -e egy szakmában. De bár úgy tűnik, hogy az AI jelenleg megtanul kevésbé elfogultnak lenni, továbbra is az objektív, együttérző felhasználókra támaszkodik, hogy így képzzenek. (Míg a Diem AI -je nagyrészt képzett a létrehozott információkról és Nők és nem bináris emberek, és így nem teszik ki ugyanazt a nőket, hogy a nők elleni torzításokat az ugrásból.)

"Az AI csak olyan jó, mint a képzett adatok, és mivel minden embernek elfogultsága és előítélete van, az adatok felhasználásakor, az elfogultság és az előítélet az AI részévé válik."-Nina Vasan, MD, pszichiáter

Ezek a megállapítások szemléltetik, hogy az elfogultság hogyan tartjuk fenn, amikor az emberek természetesen átviszik az általunk létrehozott termékekhez, és azokat az adatkészleteket, amelyekhez hozzájárulunk. "Az AI csak olyan jó, mint a képzett adatok, és mivel minden embernek elfogultsága és előítélete van, adataik felhasználásakor, hogy az elfogultság és az előítélet az AI részévé válik" - mondja Nina Vasan, MD pszichiáter, MD, az orvosi vezérigazgató, a Digital Therapy Platform Real, valamint az Brainstorm alapítója és ügyvezető igazgatója: A Mentálhigiénés Innovációval foglalkozó Stanford Lab.

Hogyan célja a Diem célja, hogy szórakoztató, informatív keresőmotorré váljon, kifejezetten a nők és a nem bináris emberek számára

Tekintettel a Diem tervezett felhasználói demográfiai elemére, Bates azt állítja, hogy a platformon megosztott információkra gondol, és a chatbot által generált válaszokat mint az emberek kérdéseire, amikor életük "baráti szakaszában" vannak; Az emberek sok információt elnyelnek a barátoktól, amikor a húszas évek közepén és a harmincas évek elején vannak-mondja. A Diem -rel az a gondolat, hogy perspektívákat szerez a korod és a nemi identitás különféle embereiből, akikkel esetleg nem lépett kapcsolatba, és hogy a kollektív megértés mindenki számára előnyös a platformon.

Mivel a Diem AI -jét közvetlenül a demográfiai emberekből táplálják, ez egy reprezentatív platform a tervezés szerint. Mostanáig a nők és a nem bináris emberek ezrei feltettek kérdéseket és megosztottak a diemen keresztüli válaszokat a számukra releváns témákról, különösen a személyes egészség, a pénz és a kapcsolatok kategóriáiban, amelyekben a Diem AI-je a legjobban kiképzett.

Miközben még mindig tanul, egy szélesebb védett adatkészletből (hasonlóan a CHATGPT -hez) vonzza az információkat a kérdésekről, amelyeket a közösségben még nem tárgyaltak. A differenciálódás egyik pontja azonban az, hogy ez még mindig egy "összefoglaló diem-y választ" fordít ezekre a kérdésekre-mondja Bates, a tényleges Diem Convos segítségével, hogy tájékoztassa a válasz stílusát és hangját.

Mivel azonban a Diem továbbra is egy AI, amely mind a felhasználó által generált tartalomra, mind a szélesebb adatkészletre támaszkodik, ez természetesen nem immunis a többi keresőmotorok és az AI chatbotok problémáira, beleértve a hamis, félrevezető és igen, még az elfogult tartalmat is. Az alkalmazáson belül és az asztali verzióban van egy gomb, amely a visszaélés jelentésére szolgál, és a platform közzétette a közösségi iránymutatások sorozatát, amely elősegíti a "kedvesség és kíváncsiság" és az "empatikus elkötelezettség"-a felhasználók biztonságának biztosítása érdekében. és az információk minősége.

A DIEM elindul egy olyan időszakban, amikor az Egyesült Államok és az Európai Unió kormánytisztviselői feltárják az AI szabályozásának módját, főleg a fenti aggályok miatt. Az u.S. Pontosabban, Joe Biden elnök irodája októberben kiadta az AI -törvényjavaslat tervezetét, az U kétpárti csoportját.S. Chuck Schumer szenátor által vezetett szenátorok jogszabályokon dolgoznak az ipar körüli védőkorlátok létrehozása érdekében, és négy kormányzati ügynökség a múlt hónapban közös nyilatkozatot tett közzé, amelyben felvázolja az iparágot robusztusabb szabályozásukra, különös tekintettel az elfogultságból származó diszkrimináció ellen.

De Bates -t nem akadályozzák meg, ha belépsz ebbe a tájba. Azt jósolja, hogy "érdekes változás lesz az internet jövőjében", ahol az emberek olyan információkat keresnek, amelyek kifejezetten arra szolgálnak, ahol az életükben vannak. Ahelyett, hogy például a Google -tól randevú -tanácsot kérne, azt reméli, hogy hamarosan eljut egy olyan platformon, mint a Diem, amely olyan válaszokat ad, amelyek a saját élményéhez hasonló emberekből származnak.

"Jelenleg a monopóliumokban létezünk, és ez befolyásolja az internetet és azt, amit várunk a platformon" - mondja Bates. Végül is, ezek a monopóliumok gyakran a férfiak javára irányuló elfogultságot tükröznek. "Úgy gondolom, hogy az internet jövője több rést fog kínálni" - mondja. És ki mondja, hogy egy rés szükségszerűen kicsi? Amint Bates rámutat, a nők azonosítása az emberek szinte azonos részét képezik a bolygón élő embereknek. És most egy óriási csoportos csevegés várja a bemenetüket.

A Wellness Intel, amire szüksége van, akkor a BS-nél, amelyre ma nem jelentkezzen be, hogy a legújabb (és a legnagyobb) jóléti híreket és a szakértői által jóváhagyott tippeket egyenesen a postaládájába szállítsák.