Meredith Whittaker jól bírta a technológiai ipar frat house kontingensét. Leültem a párizsi VivaTech Signal elnökével, hogy áttekintsem a társadalom előtt álló súlyos, felnőtt problémák széles skáláját, a dezinformációtól kezdve, a mesterséges intelligencia irányítóitól egészen a behatoló felügyeleti államig. Beszélgetésünk során elmélyültünk a Signal közelmúltbeli szóharcában Elon Muskkal, a táviratos Pavel Durovval, és – tekintettel a Scarlett Johansonnal való ellentmondásos összecsapásra – Whittaker őszinte gondolataiban az OpenAI vezetésével kapcsolatban, amit a kollégiumi szobákhoz hasonlított. dörömböl.
Whittaker többek között aggasztja a hatalom koncentrációja az öt fő közösségi média platformon, különösen abban az évben, amikor a világ nagyszámú általános választás előtt áll , nem utolsósorban az Egyesült Államokban, valamint Európa amerikai székhelyű, külső, technológiai óriásokra való támaszkodása. Azzal érvelt, hogy az uniós szabályozás lazítása valójában nem segíti Európát az amerikai technológiai óriásokkal való versenyben, és nem tesz jót a társadalomnak. Bírálta a médiának a mesterséges intelligencia által vezérelt mélyhamisításokkal kapcsolatos megszállottságát, miközben gyakran figyelmen kívül hagyta, hogy a közösségi média platformok miként helyezik előtérbe a hiperbolikus elkötelezettséget a tényekkel szemben.
Megvitattuk továbbá a megfigyelő hirdetéseket, az Egyesült Királyság online biztonságáról szóló törvényjavaslatának következményeit, az EU-CSAM javaslatokat (abszolút veszélyes), és azt is, hogy a Telegram munkatársának, Pavel Durovnak több időt kellene-e töltenie platformja biztonságossá tételével, mint hogy egy fotós kövesse őt Instagram-fiókjához. (csupa s-).
A vége felé pedig elárulta, miért tölti a következő hat hónapot Európában.
Mostanában a mesterséges intelligencia erőkoncentrációjáról beszél, és arról, hogy ez fontos volt európai kontextusban. Szeretnéd ezt bővíteni?
A nagyon rövid válasz az, hogy ez európai viszonylatban fontos, mert ez a hatalom nem Európában összpontosul. Igen, ez a hatalom egy maroknyi vállalat kezében összpontosul, amelyek az Egyesült Államokban, majd néhány további Kínában találhatók. De amikor erről a kontextusról beszélünk, akkor az Egyesült Államokról beszélünk. Európa, az európai startupok, európai kormányok, európai intézmények mesterséges intelligencia-függősége végső soron az infrastruktúrákra és rendszerekre való támaszkodás, amelyeket e maroknyi vállalat hoznak létre, ellenőrzöttek, és visszafordítanak e maroknyi vállalat nyereségére és növekedésére.
Nos, a kontextus, amelyben beszélünk, 2024 májusa. Most nem tudom, hány hónapunk van a választásokig, és erre most nem vagyok hajlandó emlékezni. De egy Trump-rezsim és egy tekintélyelvűbb stílusú amerikai kormányzat nagyon is valós lehetőségét vizsgáljuk, valamint azt, hogy a [republikánus] párt egy része nagyon régóta figyeli a technológia és különösen a közösségi média ellenőrzését. Tehát ezek azok a megfontolások, amelyeket együtt kell figyelembe venni a mesterséges intelligencia elemzése során? Kit szolgál az AI? És miért is kellene Európának aggódnia az AI-ipar koncentrált hatalma miatt.
Európában vita folyik a gyorsulásról és a gyorsuló technológiákról. Néhány európai vállalkozó frusztrált az európai szabályozás miatt. Ön szerint jogosak az aggodalmuk az esetleges európai szabályozással, esetleg azzal kapcsolatban, hogy az EU lassítja a technológiai fejlődés ütemét?
Elnézést, az Akadémiáról jöttem. Szóval ragaszkodó vagyok a definíciókhoz. Ezt szeretném egy kicsit kibontani. Vajon itt az a feltevés, hogy ilyen béklyók nélkül Európa szabadon építhetne versenytársakat az amerikai technológiai óriásokkal? Ha ez a feltételezés, akkor ez nem igaz. Tudják, hogy ez nem igaz. Aki érti ezeknek a cégeknek a történetét, az üzleti modelleket, a mélyreható gyökereit, az is tudja, hogy ez nem igaz.
Lehet, hogy csalódást okoz a szabályozás, amely „lelassítja a B sorozatot”. De úgy gondolom, hogy meg kell vizsgálnunk a „haladás” definícióját, amely azon támaszkodik, hogy le kell vetni minden olyan védőkorlátot, amely szabályozná az olyan technológiák használatát és visszaéléseit, amelyek jelenleg hihetetlenül érzékeny döntések meghozatalával vannak megbízva; jelenleg olyan tömeges megfigyelési infrastruktúrákhoz kapcsolódnak, amelyek felgyorsítják a társadalmi ellenőrzés új formáit; amelyeket a munka leépítésére és csökkentésére használnak. Ezt akarjuk? Ez haladás? Mert ha nem definiáljuk a fogalmainkat, akkor azt hiszem, elkaphatunk ezekben a tündérmesékben.
Persze, egyes srácok szilárdan középosztálybeliek lesznek, miután készpénzt kapnak, és ez jó nekik. De ne keverjük ezt össze az élhető jövő felé haladással. Haladás egy társadalmilag előnyös irányítási struktúra felé, haladás a technológia felé, amely valójában az emberi szükségleteket szolgálja, és amely valójában elszámoltatható a polgárok felé.
rrnda
Ön felhozta a félretájékoztatás példáját a Zelenskyről és a feleségéről szóló mesterséges intelligencia által generált tartalommal kapcsolatban. Mint például mélyhamisított videók és mesterséges intelligencia által generált webhelyek .
A vákuumban a mélyhamisításokra való összpontosítás valójában hiányzik a fákért való erdőről, mivel az „erdő” az a tény, hogy most öt hatalmas közösségi média platformra támaszkodunk, mint döntőbírók. [TikTok, Facebook, Instagram, Twitter/X és YouTube]
Ezeket a hatalmas, homogén közösségi médiaplatformokat arra ösztönzik, hogy kalibrálják algoritmusaikat az elköteleződéshez, mert több kattintást, több hirdetésmegtekintést szeretnének, ami arra késztet, hogy emelje a tartalmat – tartalom, bombasztikus tartalom, hiperbolikus tartalom, teljesen hamis tartalom, igaz? És itt láthatjuk, hogy véleményem szerint a mesterséges intelligencia a dezinformációhoz sokkal erőteljesebben használt. Ott találsz egy mélyhamisítványt. Senki nem megy többé weboldalra. Felmész a Twitterre, a YouTube-ra, keresgélsz, megnézed, mi van ott.
Lát egy címet, és rákattint, rákattint valakire, aki az adott webhelyről tesz közzé. Nem hiszem, hogy beszélhetünk a dezinformációról anélkül, hogy ne beszélnénk a hatalmas, homogén platformok szerepéről, amelyek kannibalizálták médiaökoszisztémánkat és információs ökoszisztémánkat a maroknyi vállalat profitjának és növekedésének szolgálatában.
Az Egyesült Királyságban működik az Advertising Standards Authority. Németországban nem lehet náci emléktárgyakat hirdetni, például az eBay-en. Léteznek-e módok a reklámipar felügyeletére, és ezért a későbbiekben jobb szabályokat és jobb eredményeket teremteni azokon a platformokon, amelyek a reklámozásra mint üzleti modellre támaszkodnak?
Szerintem a megfigyelő reklámok betiltása nagyon jó első lépés lenne. Valójában levágnánk a technológiai ipar által kezelt patológiák gyökerét, ami a tömeges megfigyelés a befolyás nevében, a befolyásolás, hogy valakit eladjunk, befolyásoljunk valakit, hogy szavazzon valamire, befolyásolás, hogy félretájékoztassunk valakit. . Végül is ez a játék.
A tömeges megfigyelés képzési adatai, ahogy Ön fogalmazott, élesen megkönnyebbült az OpenAI Sky AI hanghasználatáról szóló történet miatt, amely nagyon hasonlított Scarlett Johanssonhoz. Később elárulta, hogy Sam Altman felvette vele a kapcsolatot a hangja használatával kapcsolatban. Van rálátásod, hogy ki nyerte az esetet?
Ezt közzétettem a Twitteren, de olyan, mint az „Edge Lord” bikák…. Ez annyira tiszteletlen. Annyira szükségtelen. És tényleg letépi a fátylat erről a mitológiáról, hogy mindannyian komoly emberek vagytok a következő istenséget építő tudomány csúcsán, amikor nagyon világos, hogy a kultúra kollégiumi szobák, amelyeket egy csomó 'igen férfiak' hoznak rá. akik azt hiszik, hogy minden vicc, amit mond, vicces, mert ezért fizetik őket, és senki sem veszi a vállára ezt a vezetést, és azt mondja: 'Mi a francot csinálsz!?'
Tavaly a Gadget Insider Disruptnál megbeszélés folyt Önnel az Egyesült Királyság online biztonsági törvényéről (jelenlegi törvény), amely azt javasolta, hogy felkérheti a technológiai vállalatokat, hogy építsenek be hátsó ajtókat a végpontok közötti titkosításukhoz. Mi az álláspontja most, hogy elfogadták a törvényjavaslatot?
soha nem tennénk. soha nem fogjuk megtenni. Azt mondtuk, hogy ha áttérnek a törvény azon részének érvényesítésére, amelyet az Ofcom felhasználhatna arra, hogy elmondja a Signalnak, hogy „hátsó ajtót kell építeniük, kliensoldali szkennelést kell végrehajtaniuk” – ami egy hátsó ajtó –, hagyja el [az Egyesült Királyságot]. Mert ezt nem fogjuk megtenni. Soha nem fogjuk eladni azokat az embereket, akik a Signalra támaszkodnak, különösen, ha nagyon sokan támaszkodnak rá, olyan helyzetekben, ahol a digitális biztonság élet-halál kérdése.
Egyértelműnek tűnik az, hogy az Ofcom egy óriási zacskó vad hülyeséget kapott, amelyek egy része érdekes, van, amelyik nem, amely úgy épült fel, mint egy karácsonyfa, ahol mindenki a kedvenc díszét tűzte. Politikai tehetetlenség miatt ment át, nem pedig valódi támogatáson keresztül. Minden képviselő, akivel beszéltem a törvényjavaslat előkészítése során, azt mondta: „Igen, tudjuk, hogy… de senki nem fog tenni ellene”. És most az Ofcomnak kell foglalkoznia ennek betartatásával. És hát… pár havonta újabb 1700 oldal esik le, amiért fizetni kell valakinek, hogy elolvassa.
Tehát még nem gyakorolt nyomást az Ofcom?
Nem, és az Ofcom vezetésével az a tapasztalatom, hogy meglehetősen ésszerűek. Megértik ezeket a kérdéseket. De ismét átadták nekik ezt a számlát, és most azon próbálnak megbirkózni, hogy mit csináljanak ott.
A közelmúltban történt egy fejlesztés, ahol az AI-ról konzultálnak az online biztonság érdekében. Van valami észrevételed ehhez?
Nagyon aggódom az öregedés miatt. És ez az ötlet, hogy szükségünk van egy adatbázisra, amelyet [például] a Yoti, egy egyesült államokbeli székhelyű cég üzemeltet, és keményen lobbizik ezekért az infrastruktúrákért, és amely biometrikus azonosítást vagy valamilyen gépi tanulást, pontatlan varázslatot, vagy azonosító adatbázist tartalmaz, vagy ez azt jelenti, hogy ténylegesen be kell jelentkeznie valódi személyazonosságával és életkorával, valamint minden egyéb információval, amit szeretnének, hogy felkereshessen egy webhelyet.
Ön egy hihetetlen tömeges megfigyelési rendszerről beszél. Az Egyesült Államokban a könyvtárosok sokáig ragaszkodtak ahhoz, hogy ne fedjék fel, hogy az emberek mit néztek ki, mert ezek az információk annyira érzékenyek voltak. Meg lehet nézni a Robert Bork-ügy videókölcsönzése és vásárlása, valamint, hogy ezek az információk mennyire érzékenyek voltak. Amit itt ezekkel a rendelkezésekkel látunk, az csak valaminek a bevezetése, ami teljesen figyelmen kívül hagyja annak megértését, hogy ezek az adatok mennyire érzékenyek, és olyan [helyzetet] hoz létre, amikor egy webhely használata előtt be kell jelentkeznie a hatóságokhoz.
Az Európai Bizottság új irányelvet javasolt a gyermekek szexuális zaklatásával kapcsolatos anyagokra (EU-CSAM) vonatkozó büntetőjogi szabályok átdolgozására. Mi a véleménye erről a javaslatról?
Őszintén szólva, nem úgy tűnik, hogy megvan a politikai akarat [hozzá]. Figyelemre méltó azonban, hogy úgy tűnik, van ez a dühöngő kontingens, aki az elmarasztaló nyomozói jelentések ellenére is megmutatja, milyen keményen játszottak a szkennelési és biometrikus ipar lobbistái ennek a jogszabálynak a kidolgozásában. Ez annak ellenére, hogy az egész szakértői közösség – bárki, aki a biztonsággal vagy a kriptográfiával kapcsolatos kutatásokat végez, és érti ezeket a rendszereket és azok határait – kijön, és azt mondja, ez teljesen kivitelezhetetlen. Amiről ön beszél, az egy hátsó ajtó az alapvető infrastruktúrákban, amelyekre a kormányzat, a kereskedelem és a kommunikáció szempontjából támaszkodunk.
Ez teljesen veszélyes, és ó, várj, nincs olyan adat, amely azt mutatná, hogy ez valóban segíteni fog a gyerekeken. Óriási hiány van a szociális szolgáltatások és az oktatás finanszírozásában. Valós problémák vannak a gyerekek megsegítésével. Nem ezekre összpontosítanak. Ehelyett a titkosítás hátsó ajtójához való rögzítés, az egyetlen olyan technológia feltörése, amelyik biztosíthatja a bizalmasságot, a hitelességet és a magánélet védelmét. Tehát az érvek benne vannak. Nagyon világos, hogy tévednek. Nagyon világos, hogy ez a folyamat enyhén szólva korrupt. És mégis úgy tűnik, van ez a frakció, amely egyszerűen nem tudja elengedni ezt a csontot.
Nyilvánvalóan aggódik a központosított AI-platformok ereje miatt. Mi a véleményed az úgynevezett decentralizált mesterséges intelligenciáról, amelyről például Emad Mostaque beszél?
szlogent hallok. Mondj egy érvet. Adj egy építészetet. Mondd el, mit jelent ez valójában. Konkrétan mit decentralizálnak? Milyen előnyökkel jár a decentralizáció speciális változata?
Nyilván ott volt a legutóbbi összecsapás Elon Muskkal a Telegram versus jelről. Kicsinyítés és kilépés, tudod, tapasztalat: Láttál aktivistákat, akik kiszálltak a Signalból? Mi a véleménye arról, amit Pavel Durov mondott?
Úgy tűnik, hogy Pavel túlságosan elfoglalt lehet, hogy egy profi fotós kövesse a tényeket. Nem tudom, miért erősítette ezt fel. Tudom, hogy tele van s – ha a nézeteiről vagy a Signal-lal kapcsolatos állításairól van szó. És az összes nyugta a mi oldalunkon van. Tehát az esküdtszék belépett. Az ítélet egyértelmű.
A sajnálatos ebben az az, hogy a technológiai vezetők más beszédeivel ellentétben, amelyekbe jól belefogok, és nem is érdekel különösebben, ez valójában valódi embereknek árt, és hihetetlenül vakmerő. Számos olyan ember mellett, akikkel koalícióban dolgozunk, kapcsolatba kellett lépnünk emberi jogvédőkkel és aktivista közösségekkel, akik jogosan megijedtek ezektől az állításoktól, mert egy iparágban, egy ökoszisztémában vagyunk, ahol talán 5000 ember él. a világban olyan készségekkel, hogy ténylegesen leüljünk, és érvényesítsük, amit csinálunk, és a lehető legkönnyebbé tesszük az ilyen szűk szakértelemmel rendelkező emberek számára a Signal tevékenységének ellenőrzését.
Protokollunk nyílt forráskódú. Kódunk nyílt forráskódú. Jól dokumentált. Megvalósításaink nyílt forráskódúak. Protokollunkat formálisan ellenőrizték. Mindent megteszünk. De sok olyan ember van, aki más-más készségekkel és különböző szakértelemmel rendelkezik, akiknek a szakértők szavát kell fogadniuk. Szerencsénk van, mert egy évtizede a szabadban dolgozunk. Megalkottuk az arany standard titkosítási technológiát, megvan bennünk a biztonság, a hacker, az InfoSec, a kriptográfiai közösség, és ezek az emberek egyfajta immunrendszerként jelennek meg. Ez azonban nem jelenti azt, hogy ne kelljen valódi kárelhárítási és gondozási munkát végeznünk azokkal az emberekkel, akik a Signalra támaszkodnak. Sokszor látjuk, hogy ezek a dezinformációs kampányok a kiszolgáltatott közösségeket célozzák meg, hogy rákényszerítsék őket egy kevésbé biztonságos lehetőségre, majd felügyeletnek és társadalmi ellenőrzésnek, valamint az ilyen típusú fegyveres információs aszimmetriából eredő károk egyéb formáinak alávesse őket. Szóval dühös voltam, dühös vagyok, és szerintem ez hihetetlenül vakmerő. Játssz a játékaiddal, de ne vidd be őket az én udvaromba.
Sokat beszámoltam az ukrajnai technológiáról és néhány aszimmetrikus hadviselésről. Ugyanakkor nyilvánvaló, hogy az ukránok továbbra is nagyon nagy mértékben használják a Telegramot, ahogy az oroszok is. Van véleményed a háborúban betöltött szerepéről?
A Telegram egy közösségi média platform DM-ekkel. A Signal egy privát kommunikációs szolgáltatás. Interperszonális kommunikációt folytatunk, és ezt a legmagasabb szintű adatvédelem mellett tesszük. Tehát Ukrajnában sok ember, sok más helyen használja a Telegram csatornáit közösségi média adásokhoz, használja a csoportokat és a Telegram egyéb közösségimédia-funkcióit. A Signal-t tényleges komoly kommunikációhoz is használják. Tehát a Telegram egy közösségi média platform, nincs titkosítva, ez a legkevésbé biztonságos az üzenetküldő és a közösségi médiaszolgáltatások közül.
Azt mondtad, hogy sok időt fogsz tölteni az EU-ban, miért van ez?
A következő hat hónapban Párizsban leszek. Az európai piacunkra, az európai kapcsolatainkra koncentrálunk. Ez egy jó alkalom a magánélet védelmét megőrző alkalmazásnak, amely soha nem fog meghátrálni alapelveinktől, hogy az Egyesült Államok politikai helyzetét figyelembe véve legyünk nagyon rugalmasak, és megértsük lehetőségeinket. Írok egy könyvet is az elmúlt 20 évben végzett munkámról.