A Signal nem fogja az ellenőrzés üzleti modelljét alkalmazni

A cég kitart az adatvédelem és a titkosítás, illetve annak fontossága mellett.

Meredith Whittaker a Google nyílt kutatási programjának alapítójaként évekig összekötő kapocsként dolgozott a szoftvergyártók és a tudományos világ között. A szélesebb nyilvánosság 2017-ben figyelt fel rá, amikor ő volt az egyik fő szervezője a szexuális zaklatás és diszkrimináció elleni Google Walkoutnak, amely a Google-on túl is nagy hullámokat vert a technológiai világban. A szakember 2019-ben távozott a cégtől és ő a New York-i Egyetem AI Now Intézetének alapítója és professzora, ezáltal a mesterséges intelligencia, különösen a vele együtt járó etikai kérdések elismert szakértője. Ezután a Fehér Ház, az Európai Parlament és az Amerikai Egyesült Államok Szövetségi Kereskedelmi Bizottságának (FTC) a tanácsadójaként is tevékenykedett. Most ő lett a Signal üzenetküldő szoftvert fejlesztő alapítvány elnöke.

Jelenleg egyes országokban azt tervezik, hogy aláássák az üzenetküldő szoftverek végponttól végpontig tartó titkosítását. Nagy-Britanniában már van egy törvénytervezet, amely minden szolgáltatót arra kötelezne, hogy vizsgálja meg a gyermekek szexuális zaklatását ábrázoló képeket, és az Európai Unióban is hasonló témában folyik a vita. Whittaker úgy vélte, hogy ez egy nagyon népszerű gondolkodás, amely úgy tűnik, hogy néhány évente gombamód szökik szárba. De az igazság az, hogy nincs olyan érv, amely alapján a titkosítást egy cél érdekében fel lehetne oldani anélkül, hogy minden más cél érdekében tönkretennénk azt. A titkosítás vagy robusztus és működik, vagy elromlott. Ők pedig egyértelműen kiállnak az erős titkosítás mellett, ebben a kérdésben nincs alku.

"A Signal nem egy közösségi hálózat. Ez nem egy algoritmikusan felerősített tartalommal rendelkező platform. Ez egy üzenetküldő szolgáltatás. Bizonyos funkciókat tudatosan nem fejlesztettünk ki, hogy eleve elkerüljünk vitatható helyzeteket. A fejlesztőcsapat rendkívül gondos, hosszan és alaposan átgondolja az új funkciók kifejlesztését. Mindenféle változót figyelembe veszünk, a platformtól vagy operációs rendszertől kezdve, amelyen dolgozunk, a Signal felhasználóinak elvárásain át az általános politikai környezetig, amelyben egy adott funkciót be kívánunk vezetni" - jelentette ki a menedzser.


A megkülönböztetés és a zaklatás nem a digitális technológiák terméke, hanem azon társadalmaké, amikben élünk. Ezek a kommunikáció és a cselekvés különböző formáiban, valamint intézményeink struktúráiban nyilvánulnak meg. Ezeket azonban nem a digitális kommunikáció vagy a digitális technológiák hozzák létre, és nem is lehet megoldani a digitális technológiák bütykölésével anélkül, hogy a valódi problémákkal foglalkoznánk. És ez nem a technológia, hanem az egész társadalmi struktúra kérdése.

"Az adatvédelmi követelményeink nagyon magasak, és ebben nem kötünk kompromisszumot. Pont. Amennyiben közvetlenül az iMessage vagy a Whatsapp mérnökeivel dolgoznánk együtt, akkor fel kellene puhítanunk az adatvédelmi normáinkat. De nem fogunk máshoz alkalmazkodni, csak azért, hogy elérjünk valamilyen átjárhatósági célt. Amint a Signal elég népszerű lesz, boldogan beszélhetünk az interoperabilitás valamilyen formájáról, ahol nem kell feláldoznunk az adatvédelmi szabványainkat. Végül is az a célunk, hogy biztosítsunk egy bizonyos szintű adatvédelmet, és akkor nem igazán érdekel minket, hogy a felhasználók a Signalt vagy egy másik szolgáltatást használnak-e, amely azonos feltételek mellett kommunikál a Signal-lal" - szögezte le a Signal Alapítvány új elnöke.

Whittaker óvatosan optimista, szerinte a politikai döntéshozók, a jogalkotók és az iparágon kívüli szereplők kezdik megérteni mind a technológia működésének technikai részleteit, mind az üzleti modell anyagi alapjait. Az elmúlt öt évben eloszlott az a misztifikált narratíva, miszerint egyes technológiai vállalatok tudása a tudományos fejlődés és innováció szinonimája - és ez nagyon pozitív. Egyre világosabbá válik, hogy a "felügyeleti" üzleti modell hálózati hatásai hogyan hoztak létre monopóliumokat néhány vállalatból, hogyan áramlanak az adatok, hogyan korlátozza az embereket ez a fajta üzleti modell.


A múltban gyakran szembesültek olyan kijelentésekkel, hogy az adatok mindannyiunkat megmentenek, vagy hogy a kormánynak úgy kellene működnie, mint ahogy a Google. De ezek a nézőpontok nagyon távol álltak a valóságtól, és nagymértékben befolyásolták őket pontosan ezeknek a technológiai vállalatoknak a lobbistái. Whittaker szerint sok előrelépés történt, és ebben az európai uniós általános adatvédelmi rendelet (GDPR) alapvető fontosságú volt. Megoldotta az egész problémát? Nem. Elég kaotikus volt? Teljesen igaz. Ezek azonban fontos lépések a jobb szabályozás felé. De soha nem hitte - és most sem hiszi -, hogy a megoldás azokra a nagyon aggasztó és összetett problémákra, amelyekkel a nagy technológiai hegemónia szembesít minket, kizárólag a szabályozásban rejlik. Sokkal többre lesz szükség. De a személyes tapasztalatai alapján azt mondhatja, hogy sokkal könnyebbé vált a valóságon alapuló beszélgetést folytatni ezekkel az emberekkel, mint öt vagy akár tíz évvel ezelőtt.

"Nyilvánvaló, hogy az iparág a "felügyeleti" üzleti modell hálózati hatásai révén egyfajta természetes monopólium felé fejlődött. Ez tagadhatatlan. Másrészt, ha megnézzük a Google Play Store-t, láthatjuk, hogy a Signalt több mint 100 milliószor töltötték le - és ez csak az Android felhasználókra vonatkozik. Úgy gondolom, hogy a biztonságos kommunikáció iránti igény megvan, és az emberek felismerik, hogy ez mennyire fontos. A Signal iránti igény tehát egyre nő. Ebből a szempontból nagyon optimista vagyok a Signal kilátásait illetően, különben nem fektetném minden időmet ebbe a projektbe."

"A környezetet, amelyben a Signal működik, egy olyan üzleti modell hozta létre, amelyet a Signal elutasít: a megfigyelésé. Ebben a helyzetben még fontosabb, hogy van egy olyan játékos, mint a Signal - még akkor is, ha elég nagy kihívás ebben a környezetben dolgozni. A tartósan elérhető szoftverek fejlesztése nagyon költséges, ezért fontos, hogy fenntartható üzleti modellt építsünk ki. A legtöbb versenytárs a fejlesztést és karbantartást a felügyelet valamilyen változatából finanszírozza - amit mi egyszerűen nem vagyunk hajlandóak megtenni. Ez azonban nem jelenti azt, hogy számunkra olcsóbb lenne a működés."

"Évente több tízmillió dollárba kerül nekünk a Signal fejlesztése, karbantartása és szervizelése. A versenytársainkhoz képest ez nagyon alacsony költségvetés. A Whatsappnak több mint ezer mérnöke van - és ez csak a mérnökök száma. A Telegramnak több mint 500 alkalmazottja van, és több milliárd dollárt gyűjtött kriptovalutákon keresztül. A Signal-csapat, bár ehhez képest rendkívül hozzáértő, szintén elég kicsi. Összesen körülbelül 40 ember dolgozik a cégnél, és ez tényleg mindenkire vonatkozik - tehát a fejlesztőkre, a tervezőkre, a termékmenedzserekre vagy akár azokra, akik támogatást nyújtanak" - hangsúlyozta a szakember.

A Signal Alapítvány új vezetője mindezt azzal egészítette ki, hogy nem fognak részt venni a megfigyelés üzleti modelljében. Nagyon hálásak a kapott adományokért és remélik, hogy a Signalt használó sok millió ember egy kis hozzájárulást ad, hogy tovább növekedhessenek. A Signal-felhasználók - és egyre inkább a nagyközönség is - tisztában vannak azzal, hogy szükség van egy olyan biztonságos és titkos kommunikációs helyre, amely kívül esik a vállalati és kormányzati megfigyelési apparátuson.

"Ha egy funkcióra azért van szükség, mert a felhasználók egyszerűen elvárják egy üzenetküldőtől, akkor szerintem nagyon jó, ha beépítjük. De szerencsések vagyunk abban a tekintetben, hogy nem függünk a negyedéves eredményjelentésektől vagy a részvényesek elvárásaitól. Nem kell folyton úgy tennünk, mintha újítanánk, és olyan funkciókkal bővítenünk, amelyeket senki sem akar, hogy a nap végén a szoftverünk úgy nézzen ki, mint a Microsoft Office. Tényleg az alapokra tudunk koncentrálni, és meggyőződhetünk arról, hogy minden működik, hogy a szoftver megbízható. Tehát a lehető legjobban tudjuk csinálni, amit csinálunk. És ha ez már egy jól működő gépezet - és csak akkor -, akkor fogunk elgondolkodni azon, hogy van-e értelme más dolgokkal is foglalkozni" - taglalta a menedzser.

Whittaker a mesterséges intelligenciát a "felügyelet származékának" nevezte. A technológia területén az elmúlt évtizedben tapasztalt változások nem az algoritmikus modellek vagy a mesterséges intelligencia technikák tudományos fejlődésének köszönhetőek. Ezek a technológiai vállalatok által elérhető koncentrált adatforrásoknak és számítástechnikai infrastruktúrának köszönhetőek. Ezek azok az összetevők, amelyek az elmúlt évtizedben a mesterséges intelligencia újjáéledéséhez vezettek. A mesterséges intelligencia hetven éves terület. Azért lett hirtelen ennyire népszerű, mert lehetővé teszi ezeknek a társaságoknak, hogy a rendelkezésükre álló megfigyelési adatok alapján nagyobb nyereségre tegyenek szert.

"Azt hiszem, nagyon óvatosnak kell lennünk azzal kapcsolatban, hogy hogyan határozzuk meg a magánélet védelmét. Ott voltam, amikor a Google menedzsmentjében néhány ember előállt az ötlettel, hogy a "differenciális adatvédelem" nevű módszert használják az "eszközön történő tanuláshoz". Ez úgy néz ki, hogy "először betanítjuk az általunk használt gépi tanulási modellt, majd továbbtanítjuk azt az Ön eszközén, és végül elküldjük ezeket a felismeréseket a szervereinkre. Ezután hozzáférünk ezekhez az adatokhoz - de nem az Ön adataihoz -, és azt mondhatjuk, hogy azok bizalmasak." De az adatokból származó meglátások most már az adatok értékét jelentik. Az a képesség, hogy ezeket az adatokat egy mesterséges intelligenciamodellbe sűrítsük, és ezt a modellt alkalmazzuk ránk, hogy döntéseket hozzunk, előrejelzéseket és osztályozásokat készítsünk rólunk.

Ez sok esetben rendkívül intim adatokhoz vezet. Az arcformája alapján mondhatod, hogy Meredith valószínűleg X, Y vagy Z - bolti tolvaj, rossz munkás, bármi. Ennek nem kell igaznak lennie ahhoz, hogy komoly hatással legyen az életemre. Tehát nem tudom, hogy mondhatjuk-e, hogy valami magánjellegű, ha ezzel egyidejűleg lehetővé tesszük, hogy ezek a vállalatok kategorizáljanak minket. Olyan kategóriák, amelyeknek aztán ismét jelentős következményei vannak - és amelyekről általában nem tudunk, és amelyeket nem tudunk megkérdőjelezni."

"Természetesen ezek után felmerül, hogy lehetséges-e még a technológia "jó" használata? Tisztán hipotetikusan? Igen, természetesen. De a mesterséges intelligencia, amelyről most beszélünk, a koncentrált megfigyelési adatok és az infrastruktúra terméke. Tehát valójában azok lesznek képesek a technológia fejlesztésére, akik mindkettőhöz hozzáférnek - és ez csak egy maroknyi cég. Így a mesterséges intelligencia olyan struktúrában jön létre, amely bizonyos alkalmazásokat ösztönöz, másokat pedig elriaszt. Úgy gondolom, hogy a technológia anyagi alapjainak megértése nagyon fontos ahhoz, hogy megértsük, hogy bár sok hipotetikusan jó alkalmazás létezik, ha nem világítjuk meg a hatalmi struktúrákat és az üzleti modellt, amely által a mesterséges intelligencia létrejön, nem fogjuk megérteni, hogy ezek a jó alkalmazások miért vannak olyan kevéssé elterjedve" - szögezte le végül a szakember.