Jak aparat bezpieczeństwa kształtuje kontrolę czatu?

#kontrolaczatu #inwigilacja

luźne tłumaczenie tekstu https://netzpolitik.org/2023/geheime-liste-wie-der-sicherheitsapparat-die-chatkontrolle-praegt/

Prosiliście o nie, więc jest, ale zastrzegam, że translatoryka nie jest moją mocną stroną ;) (konflikt między dosłownością, która źle brzmi a sensem, który brzmi lepiej, ale bardziej odbiega od oryginału :–/)

Ukrywana dotąd przez Komisję Europejską lista, którą publikujemy, pokazuje, jak przedstawiciele tajnych służb i policji angażowali się w prace nad kontrolą czatu i to już na wczesnym etapie. Dużą rolę odegrała także przypominająca start-up organizacja Thorn.

Podczas pracy nad rozporządzeniem dot. kontroli czatu Komisja Europejska współpracowała ściśle nie tylko z kontrowersyjną organizacją Thorn, ale także z przedstawiciel(k)ami Europolu, australijskiej i hiszpańskiej policji oraz brytyjskiej agencji wywiadowczej GCHQ.

Trzymana dotąd w tajemnicy lista Komisji Europejskiej, którą publikujemy, informuje, których/e ekspertów/ki zaprosiła KE do opracowywania rozporządzenia-kontroli czatu*. Konsultacje odbyły się w ramach Forum Internetowego UE d.s. oceny skutków technicznych kontroli czatu, która [ocena] została opublikowana w maju 2022 roku.

Lista pokazuje, że KE skonsultowała się wcześniej z 32 osobami: 4 ze środowisk akademickich, 9 z organizacji pozarządowych, 9 z agencji rządowych i 10 reprezentującymi biznes (w tym gronie dominowały Microsoft i Google).

Wedle badań przeprowadzonych przez netzpolitik.org [w.w.] eksperci i ekspertki w większości opowiadają się za rozszerzeniem masowej inwigilacji. Niektórzy z nich są zdeklarowanymi przeciwnikami i przeciwniczkami szyfrowania end-to-end. Przedstawiciele i przedstawicielki społeczeństwa obywatelskiego, opowiadający się za ochroną cyfrowych praw podstawowych, najwyraźniej nie zostali wzięci przez Komisję pod uwagę.

Nadzór Władzy i Biznesu

Elina Eickstädt, zajmująca się kwestią kontroli czatu w Chaos Computer Club, ostro krytykuje przedstawiony wybór. “Lista, którą teraz upubliczniono, pokazuje, że wiedza nt. kontroli czatu, jaką otrzymała komisja, była wysoce jednostronna. Co po raz kolejny świadczy o tym, że celem było raczej osłabienie szyfrowanej komunikacji end-to-end, a nie realnie skuteczna ochrona dzieci”.

Wedle posła Patricka Breyera lista potwierdza, że kontrola czatu jest finalnie “produktem lobby międzynarodowego kompleksu nadzoru biznesu i władzy”. “Wielka siostra Johansson” prawie całkowicie pominęła środowiska naukowe i społeczeństwo obywatelskie w UE, aby przygotować “wyjątkowy destrukcyjny atak na cyfrową prywatność korespondencji i bezpieczne szyfrowanie”.

Zaangażowanie brytyjskich tajnych służb

W konsultacjach brało udział 2 przedstawicieli brytyjskich służb specjalnych GCHQ - jeden był związany bezpośrednio z GCHQ, drugi natomiast był przedstawicielem National Cybery Security Centre (NCSC), będącego częścią tajnych służb. W imieniu GCHQ przed komisją wystąpił Crispin Robinson, dyrektor techniczny ds. kryptoanalizy w służbach wywiadowczych. NCSC reprezentował ówczesny dyrektor techniczny Ian Levy. Obaj panowie dobrze się znają - m. in. ze wspólnej publikacji w lipcu 2022 roku dokumentu, w którym opowiadali się za automatycznym wykrywaniem groomingu oraz za Cilent-Side-Scanning, technologią służącą do kontroli czatu. Wcześniej wielokrotnie proponowali osłabienie szyfrowania komunikacji - np. w 2019 r. zasugerowali wprowadzenie do komunikatorów tzw. użytkowników-duchów. Jako reprezentanci europejskich agencji rządowych i służb zostali zaproszeni dwaj policjanci z hiszpańskiej policji (Guardia Civil) oraz przedstawiciel Europolu. Komisję Europejską reprezentowali przy stole Laurent Beslay i Iwen Coisel. Pierwszy z nich zajmował się w swojej karierze akademickiej zautomatyzowanym rozpoznawaniem treści oraz "szansami i ryzykami związanymi z cyfrową inwigilacją", obecnie pracuje dla Wspólnego Centrum Badawczego KE. Drugi jest specjalistą w zakresie bezpieczeństwa IT i od 2 lat pracuje dla Europolu. Zastanawiający jest też fakt, że na 9 [przedstawicieli strony rządowej] zaproszonych przez KE znalazło się 2 przedstawicieli australijskiej Policji Federalnej. W Australii wprowadzono w 2019 roku prawo uderzające w bezpieczeństwo szyfrowania. Podobnie jak Wielka Brytania, USA, Nowa Zelandia i Kanada - Australia stanowi część sieci wywiadowczej "Five Eyes".

Społeczeństwo Obywatelskie - reprezentacja tylko jednej strony

Spośród dziewięciu przedstawicieli i przedstawicielek społeczeństwa obywatelskiego ponad połowa (5) pochodziła z kontrowersyjnej organizacji Thorn. Prawie wszyscy z tej piątki należeli do organizacji podobnej do start-upu, skupionej wokół hollywoodzkiego aktora Ashtona Kutchera. Jedna z 5 osób reprezentujących Thorn, wedle jej profilu na LinkedIn, pracowała wcześniej także dla FBI. Oficjalnie Thorn przedstawia się jako organizacja non-profit, poza tym jednak zajmuje się projektowaniem i sprzedażą oprogramowania służącego do wykrywania plików przedstawiających przemoc seksualną.

Z dokumentów i przeprowadzonych dochodzeń wynika, że organizacja ma dobre dojścia do Komisarki EU ds. Wewnętrznych i stanowi część sieci lobbistów, opiewającej na miliony dolarów. List opublikowany przez netzpolitik.org podaje, że Thorn i KE to “partnerzy przy opracowywaniu tak mocnej propozycji” dot. rozporządzenia kontroli czatu.

Pozostali 4 przedstawiciele i przedstawicielki organizacji pozarządowych reprezentowali US-amerykański National Center for Missing & Exploited Children (NCMEC) oraz kanadyjskie Centre for Child Protection.

Konsultacje z tylko kilkoma osobami ze świata nauki

Tylko 4 ekspertów i ekspertek, z którymi skonsultowała się Komisja, reprezentowało dziedziny naukowe. Jeden z nich, Hany Farid, to zagorzały zwolennik automatycznego rozpoznawania obrazów, wykraczającego daleko poza zwalczanie przemocy seksualnej wobec dzieci. W 2018 roku przeprowadzał badanie dla Counter Extremism Project (CEP) – organizacji, która ma liczne osobiste powiązania z zachodnimi agencjami bezpieczeństwa i służbami wywiadowczymi. W radzie doradczej zasiada tam m. in. August Hanning, były szef BND (niem. Federalnej Służby Wywiadowczej).

Pojawiły się też inne powiązania: Farid współpracował z firmą Microsoft nad oprogramowaniem PhotoDNA, stanowiącym w branży standardowe narzędzie do rozpoznawania materiałów przedstawiających nadużycia wobec dzieci. Natomiast baza cyfrowych odcisków palców jest obecnie obsługiwana m. in. właśnie przez NCMEC. Korzystają z niej praktycznie wszystkie większe narzędzia służące do wyszukiwania nadużyć przemoc wobec dzieci.

Dodatkowo Farid jest starszym doradcą w firmię “Trupetic”, wyspecjalizowanej w kryminalistyce cyfrowej obrazów. Oprócz tego zainicjował m. in. projekt związany z kryminalistyką mediów dla amerykańskiej wojskowej Agencji Zaawansowanych Projektów Badawczych Obrony (DARPA).

Wśród pozostałych ekspetów znalazł się Alex Stamos, były szef Facebooka ds. bezpieczeństwa.

Krytyczne głosy interesowały Komisję Europejską w stopniu co najwyżej marginalnym. A już wcześniej, w 2021 roku, czołowi specjaliści/tki zajmujący się bezpieczeństwem i kryptografią otrzegali przed kontrolą czatu. W późniejszym liście ponad 450 naukowców i naukowczyń opowiedziało się przeciwko projektowi. Ale ich protest wciąż pozostaje niewysłuchany.

Sposób, w jaki doszło do upublicznienia listy

Irlandzka Rada Swobód Obywatelskich (ICCL) zapytała Komisję Europejską o listę ekspertek i ekspertów – a Komisja Europejska zaprzeczyła istnieniu tej listy. W grudniu 2022 roku ICCL złożyła więc skargę do Europejskiego Rzecznika Praw Obywatelskich. Rzecznik zaś orzekł pod koniec października, że lista istnieje i że KE powinna ją opublikować – czego ta wciąż odmawiała.

Według Euractiv KE uzasadniła swoją decyzję “względami ochrony danych i bezpieczeństwa publicznego, uwględniając charakter omawianej tematyki”. Niezależnie od Rzecznika Praw Obywatelskich europoseł Patrick Breyer opublikował wczoraj [6.11.2023] listę w serwisie Mastodon, ale Irlandzka Rada Swobód Obywatelskich (ICCL) nie może jej oficjalnie potwierdzić, gdyż [ stan na z 6.11.2023] jeszcze jej nie otrzymała.

Kris Shrishak z ICCL jest tą listą zaskoczony i to z 2 powodów. “Z jednej strony lista zawiera bardzo mało ekspertów ds. szyfrowania i żadnych ekspertów zajmujących się prawami cyfrowymi, mimo, iż jest ich w UE pod dostatkiem. Brakuje także europejskich przedstawicieli zajmujących się ochroną dzieci. A z drugiej strony lista zawiera nazwiska osób reprezentujących australisjką policję federalną, NCMEC czy Thorn, którzy mają [w tym] swoje własne interesy”.

Shrishak uważa cały proces za nietransparentny. Powiedział netzpolitik.org: “Cały proces konsultacji eksperckich i udziału w nich powinien być jawny. Sposób, w jaki zostali wybrani eksperci, powinien być publiczny, podobnie jak porządek posiedzeń i protokoły. Istotny akt prawny, pozbawiony transparentnego postępowania, jest nie do zaakceptowania”

Autorzy: Zeynep Yirmibesoglu i Leonhard Pitz.

Aktualizacja 8 listopada: W obiegu funkcjonuje już kompletny dokument i publikujemy jego pełny tekst.

https://netzpolitik.org/wp-upload/2023/11/experten-liste-chatkontrolle-eu-kommission.xlsx

**[w polskich opracowaniach spotykałam raczej albo pełną nazwę “Rozporządzenie Parlamentu Europejskiego i Rady ustanawiające przepisy mające na celu zapobieganie niegodziwemu traktowaniu dzieci w celach seksualnych i jego zwalczanie”, albo samo “Kontrola czatu”, ale ma być tłumaczenie, w tekście nazywają to “rozporządzenie – kontrola czatu”, więc tak tłumaczę]

Najbardziej krytykowany projekt prawny w historii UE" -co dalej z kontrolą czatu?

#kontrolaczatu #inwigilacja #KE #eUE

W 2022 roku Komisja Europejska (KE) zaproponowała projekt rozporządzenia, mającego na celu walkę z pornografią dziecięcą i innymi rodzajami nadużyć seksualnych wobec nieletnich. I chociaż pozornie wydawało by się, że w propozycji, której przyświeca szczytny cel, nie ma nic niestosownego – diabeł jak zwykle tkwi w szczegółach. Politycy – nie wnikając już, czy i na ile wykorzystując instrumentalnie delikatny temat jako pretekst do wprowadzenia masowej inwigilacji, a na ile mając dobre chęci i po prostu życzeniowo myśląc o technologii, zaproponowali prawnego bubla. [EDIT: pojawiły się nowe informacje w tej sprawie, a dziennikarskie śledztwo ujawniło nową sieć powiązań – ogarnę po polsku i podlinkuję, ale póki co: https://netzpolitik.org/2023/anlasslose-massenueberwachung-recherchen-decken-netzwerk-der-chatkontrolle-lobby-auf/]. Projekt, który, wprawdzie górnolotnie, ale nie bezpodstawnie określa się mianem “najbardziej krytykowanym unijnym projektem prawa wszechczasów” (https://edri.org/our-work/most-criticised-eu-law-of-all-time/). Tymczasem, ignorując krytykę, KE popycha pomysł dalej, mając po swojej stronie rządy wielu państw europejskich, które nowymi możliwościami inwigilacji własnych obywateli nie pogardzą.

Z racji, że czekają nas jeszcze negocjacje trójstronne (między Radą UE, Komisją Europejską i Parlamentem Europejskim), Parlament i Rada UE chciały by przyjąć ostateczne stanowisko w ciągu najbliższych tygodni, by rozporządzenie zostało przyjęte przed eurowyborami (czerwiec 2024). Najbliższe głosowanie w tej sprawie miało odbyć się w tym tygodniu – zostało jednak odroczone, a prace nad aktem dalej trwają. (https://netzpolitik.org/2023/internes-protokoll-eu-staaten-wollen-chatkontrolle-in-zwei-wochen-beschliessen/, https://www.heise.de/news/Widerstand-aus-Deutschland-Abstimmung-im-EU-Rat-zur-Chatkontrolle-geplatzt-9310335.html, https://eupolicy.social/@khaleesicodes/111093057298247225)

A o co konkretnie chodzi? Regulacja, o której mowa, to COM/2022/209 – “Rozporządzenie Parlamentu Europejskiego i Rady ustanawiające przepisy mające na celu zapobieganie niegodziwemu traktowaniu dzieci w celach seksualnych i jego zwalczanie” (Regulation of the European Parliament and of the Council laying down rules to prevent and combat child sexual abuse), nazywane też “regulacją CSA”, “CSAR”, “propozycją CSAM” czy “kontrolą czatu” (https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=COM%3A2022%3A209%3AFIN). Rozporządzenie nakłada szereg nowych obowiązków na dostawców usług hostingowych, sklepów z aplikacjami oraz komunikatorów, przy czym najwięcej kontrowersyjnych nakazów narzucono tym ostatnim. Zgodnie z propozycją Komisji (oraz późniejszymi poprawkami do projektu) dostawcy usług mieliby być zobowiązani do oceny ryzyka, skutecznej weryfikacji wieku użytkowników, skanowania wiadomości, w tym także obrazu i dźwięku (https://cyberdefence24.pl/polityka-i-prawo/kontrola-czatu-wiekszosc-krajow-ue-popiera-skanowanie-komunikacji-audio), pod kątem potencjalnych treści zawierających pornografię dziecięcą lub inne nadużycia wobec nieletnich (jak np. grooming – czyli nagabywanie w celu zdobycia zaufania i wykorzystania). Miałoby to dotyczyć zarówno już znanych, jak i nowych przypadków nadużyć, a zgromadzony w ten sposób materiał miałby być przesyłany do specjalnie utworzonego w tym celu ogólnounijnego centrum danych.

Teoretycznie dostawcy mieliby używać w tym celu narzędzi, które są bezpieczne, skuteczne, “wystarczająco niezawodne”, prześlą wyłącznie wspomniane wyżej materiały dot. molestowania, nie ingerując przy tym zbytnio w prywatność użytkowników. Pomysłodawcy niespecjalnie przejmują się faktem, że takie narzędzia zwyczajnie nie istnieją.

Nic więc dziwnego, że na projekt wylała się fala krytyki z niemal wszystkich stron. Zareagowali specjaliści z branży IT zwracając uwagę, że obecna technologia, włącznie z AI, w której tak pokładają nadzieje pomysłodawcy projektu, nie jest w stanie wiarygodnie wyselekcjonować przedstawień nadużyć wobec nieletnich spośród innych video, zdjęć czy tekstów. (https://www.heise.de/news/Chatkontrolle-EU-Kommission-vertraut-bei-Trefferquote-auf-Meta-und-Hollywood-7286503.html). Skanowanie szyfrowanej komunikacji natomiast wymagałoby pozostawienia backdorów (luk w zabezpieczeniach) umożliwiających i państwu (https://netzpolitik.org/2022/spionage-skandal-pegasus-abrechnung-mit-europa/), i cyberprzestępcom na monitorowanie użytkowników. Skanowanie treści po stronie użytkownika (tzw. client-side scanning) całkowicie zaprzeczyłoby idei szyfrowania (https://netzpolitik.org/2022/chatkontrolle-apple-macht-rueckzieher-beim-client-side-scanning/). Zareagowali zarówno obrońcy praw podstawowych argumentując, że proponowane rozporządzenie uderzyłoby w prawo do prywatności, jak i organizacje cyfrowego społeczeństwa obywatelskiego podnoszące, że możliwość szyfrowania jest tej prywatności gwarantem. Zagrożone byłyby też dane dot. zdrowia – komunikacja z lekarzami i przesyłanie im dokumentacji medycznej, zwłaszcza od czasów pandemii, czasami odbywa się za pośrednictwem e-porady (https://netzpolitik.org/2022/falscher-verdacht-gegen-vater-ein-fall-aus-den-usa-zeigt-die-gefahr-der-geplanten-chatkontrolle/). Swoje trzy grosze dołożyli ludzie związani z ochroną danych osobowych podkreślając, jak niebezpieczna także pod tym kątem jest propozycja KE – i to zarówno jeśli chodzi o samo zbieranie danych, jak i ich gromadzenie w centralnym rejestrze z szerokim do niego dostępem. Nie zabrakło tu uwag na styku ochrony danych i cyberbezpieczeństwa – “skuteczna weryfikacja wieku” sprowadzałaby się w wielu przypadkach do okazywania dokumentu tożsamości osobom, które bez wprowadzenia wspomnianej regulacji nie zostałyby do tego upoważnione, a lata przekonywania użytkowników, by chronili swoje dane i nie okazywali dokumentów byle komu, poszłyby na marne. Krytyka spadła też ze strony środowisk wolnego oprogramowania (https://szmer.info/post/225325), – spełnienie stawianych wymogów byłoby de facto niemożliwe ze strony jego programistów i wolontariuszy zarówno ze względu na czasochłonność, jak i zasadę niegromadzenia danych oraz zdecentralizowany charakter usług. Otwarty list do europosłów i członków Rady wystosowali badacze i naukowcy akademiccy (https://docs.google.com/document/d/13Aeex72MtFBjKhExRTooVMWN9TC-pbH-5LEaAbMF91Y/edit), pisząc o wadliwości technologii, podatności na ataki, negatywnych konsekwencjach osłabienia szyfrowania end-to-end i nieskuteczności proponowanych rozwiązań. Przedstawiciele organów ścigania wprost przyznali, że osoby wykorzystujące dzieci zazwyczaj korzystają z nieszyfrowanych form komunikacji, a główny problem w ściganiu przestępców stanowi brak zasobów (https://cyberdefence24.pl/prywatnosc/niemcy-nie-chca-kontroli-czatu-czy-ue-zrezygnuje-ze-skanowania-wiadomosci, https://www.europarl.europa.eu/doceo/document/LIBE-CR-750050_EN.pdf). Środowiska feministyczne zgłosiły obawy dot. dyskryminacji, którą już teraz stosują algorytmy wykorzystujące sztuczną inteligencję ( https://feministtechpolicy.org/en/case-studies/csa-regulation/).

Grupy związane ze ściganiem przestępców seksualnych i pomocą ich nieletnim ofiarom podkreślały, że ich głównym problemem nie jest prawo do prywatności i szyfrowana komunikacja, a brak ludzi i odpowiedniego dofinansowania. I że zarzucenie organów ścigania masą błędnych wskazań sprawi, iż na badanie realnych przestępstw wobec dzieci będzie jeszcze mniej czasu i środków. Inni zauważali, że fala fałszywych zgłoszeń może doprowadzić nie tylko do naruszenia prywatności, ale wysuwania fałszywych oskarżeń wobec niewinnych osób (https://www.heise.de/news/Chatkontrolle-EU-Kommission-vertraut-bei-Trefferquote-auf-Meta-und-Hollywood-7286503.html), a policja, zamiast ścigać pedofilów, będzie analizować komunikację młodo wyglądających dorosłych czy oglądać intymne zdjęcia wysyłane sobie wzajemnie przez nastolatki (kwestie związane z sekstingiem między nastolatkami to inny problem, niż pedofilia). Projekt skrytykowali także politycy różnych opcji, unijni eksperci, prawnicy (https://cdn.netzpolitik.org/wp-upload/2023/05/2023-04-26_Council_Legal-Service_CSAR_8787_Agence-Europe.pdf, https://cyberdefence24.pl/prywatnosc/kontrola-czatu-o-tym-ze-jest-nielegalna-mowia-nawet-unijni-prawnicy) i 2 komisje Parlamentu Europejskiego (PE) (https://szmer.info/post/307984).

Obszerną analizę problemu (podobne pomysły pojawiły się bowiem w W. Brytanii w postaci Online Safety Bill i w USA w postaci Kids Online Safety Act) przedstawili też bezpośrednio zainteresowani, czyli obrońcy praw dziecka (https://netzpolitik.org/2022/crypto-wars-gesetzesvorhaben-in-eu-uk-und-den-usa-gefaehrden-verschluesselung/, https://szmer.info/post/257940). Działacze Międzynarodowej Sieci na rzecz Praw Dziecka (CRIN – Child Rights International Network) i brytyjskiej organizacji zajmującą się ochroną dzieci Defend Digital Me zapoznali się z fachową literaturą oraz porozmawiali z przedstawicielami różnych grup i organizacji. Wśród rozmówców znalazły się ofiary przemocy seksualnej wobec dzieci, eksperci zajmujący się ochroną danych, ochroną nieletnich, prawami podstawowymi czy technologią – w tym osoby powiązane z Internet Watch Foundation, korporacją Meta (do której należy Facebook, Instagram czy Whats'App) oraz EFF (Electronic Frontier Foundation). Wyniki opublikowano w ponad stustronicowym raporcie (https://home.crin.org/readlistenwatch/stories/privacy-and-protection), dokładnie analizującym zagadnienie. Dokument podkreśla, jak ważną rolę pełni szyfrowana komunikacja w życiu dzieci – pozwala im zachować prywatność, a tym samym rozwijać osobowość i budować zaufanie w relacjach z rodzicami czy nauczycielami – co zwiększa prawdopodobieństwo, że dzieci zwrócą się do nich po pomoc w momencie, gdy będą jej potrzebować. Raport ostrzega przed techsolutionizmem. Zwraca także uwagę, że proponowane rozwiązania mogłyby zostać wykorzystanie w krajach mniej demokratycznych do represji wobec przeciwników politycznych czy mniejszości seksualnych. Krytyka nie ominęła pomysłu stworzenia unijnego centrum, do którego miałyby trafiać podejrzane materiały – byłyby tam przeglądane i klasyfikowane przez ludzkich pracowników, co dodatkowo narusza prywatność nieletnich i znacznie zwiększa liczbę osób mających dostęp do wspomnianych materiałów (https://szmer.info/post/257940).

Autorzy raportu podkreślają, że lepszym sposobem na walkę z wykorzystywaniem nieletnich jest profilaktyka, edukacja i stosowanie “mechanizmów sprawozdawczych” – czyli stworzenie narzędzi, które umożliwiłyby proste zgłaszanie niepokojących treści. Jednocześnie równie ważna jest szybka reakcja na to zgłoszenie – i to ten aspekt stanowi spory problem. Zgłaszający muszą bowiem czekać na reakcję nieraz kilka tygodni. Tymczasem ochrona dzieci “wymaga ludzkiego zaufania, wymiany wiedzy i stabilnej infrastruktury”, a tym samym współdziałania różnych podmiotów. Którym – jak zauważają osoby pomagające dzieciom – brakuje nie chęci, lecz środków (https://szmer.info/post/257940).

W powyższych stanowiskach przebija się krytyka techsolutionizmu – czyli założenia, zgodnie z którym nie musimy już rozwiązywać problemów społecznych, bo rozwiąże ja za nas technologia. I w efekcie ignorowania faktu, że takie podejście nie tylko problemów nie rozwiązuje, ale wręcz je pogłębia. Gdyby politycy środki włożone w prace nad inwigilacją przeznaczyli na realną pomoc dzieciom, wszystkim wyszłoby to na dobre.

Finalnie 87 różnych organizacji podpisało się pod otwartym listem wzywającym rządy państw, aby nie zgodziły się na propozycję Komisji. https://eupolicy.social/@edri/111085222410118081, a w Niemczech protesty przeniosły się także na ulicę (https://netzpolitik.org/2022/protest-so-war-die-erste-demo-gegen-die-chatkontrolle/).

W ramach grupy roboczej Rady ds. egzekwowania prawa trwają rozmowy między przedstawicielami państw. Różne zastrzeżenia wobec projektu, domagając się czy to poszanowania praw podstawowych, czy to ograniczenia zakresu inwigilacji, zgłosiło 8 państw, w tym Polska. (https://netzpolitik.org/2023/internes-protokoll-eu-staaten-starten-endspurt-zur-chatkontrolle/). Kolejną, wciąż mocno naruszającą prywatność użytkowników wersję rozporządzenia zaproponowała Hiszpania, pełniąca prezydencję Europy. Wykreśliła zaproponowane przez Szwecję (poprzednia prezydencja) zapisy, że regulacja nie powinna zawierać ogólnych obowiązków dot. nadzoru oraz środków mających na celu obejście szyfrowania end-to-end. Podczas ostatniej rundy negocjacji (lipiec 2023) poza Polską, wątpliwości zgłosiły także Niemcy, Niderlandy, Austria, Luksemburg, Szwecja i Estonia. Sprzeciwiając się tym samym 9 innym państwom, w tym Hiszpanii, Włochom, Rumunii i Czechom. (https://netzpolitik.org/2023/internes-protokoll-eu-staaten-starten-endspurt-zur-chatkontrolle/). Polska zgłosiła wiele poprawek do tekstu. Podniosła, że inwigilacja osób, które nie są o nic podejrzane, byłaby ingerencją nieproporcjonalną do zagrożenia – stosowane środki powinny być ograniczone do osób podejrzanych o popełnienie przestępstwa. Przedstawioną propozycję nazwała “czerwoną linią” (https://writefreely.pl/didleth/polska-wobec-kontroli-czatu, https://netzpolitik.org/2023/internes-protokoll-eu-staaten-starten-endspurt-zur-chatkontrolle/) – wygląda na to, że zakres ingerencji i inwigilacji proponowany przez KE jest nadmierny nawet dla państwa znanego ze stosowania Pegasusa wobec opozycji czy braku kontroli nad służbami. Jest szansa, że – mimo iż większość państw opowiada się za masową inwigilacją – projekt i tak upadnie. UE ma bowiem mechanizm mniejszości blokującej. Jeśli minimum 4 kraje, w których mieszka 35% ludności UE (https://op.europa.eu/webpub/com/abc-of-eu-law/pl/) nie zagłosują za kontrolą czatu, propozycja nie przejdzie. A wyraźny opór wobec pomysłu Komisji, poza Polską, płynie też ze strony Niemiec, Niderlandów, Szwecji i Austrii (https://netzpolitik.org/2023/internes-protokoll-eu-staaten-starten-endspurt-zur-chatkontrolle/). Wciąż nie wiadomo jednak, jakie będzie ostateczne stanowisko poszczególnych państw. Mówi się też o innym scenariuszu: artykuły 7-11 miałyby zostać oddzielone od reszty projektu i omawiane osobno. W praktyce oznacza to, że najbardziej kontrowersyjny element – tj. skanowanie prywatnej komunikacji byłby omawiany oddzielnie, ale pozostałe przepisy, jak wymóg oceny ryzyka przez dostawców sklepów z aplikacjami czy konieczność skutecznej weryfikacji wieku mogłyby zostać przeforsowane. (https://www.heise.de/news/Widerstand-aus-Deutschland-Abstimmung-im-EU-Rat-zur-Chatkontrolle-geplatzt-9310335.html, https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=COM%3A2022%3A209%3AFIN .

28 września ministrowie zgromadzeni w Radzie mieli zamiar podjąć ostateczną decyzję (https://netzpolitik.org/2023/internes-protokoll-eu-staaten-starten-endspurt-zur-chatkontrolle/)". Ale – jak donosi portal heise.de powołując się na niemieckie źródła rządowe – głosowanie zostało przełożone. Ma to być skutek protestów społeczeństwa obywatelskiego i dążeń sprzeciwiających się regulacji państw (https://netzpolitik.org/2023/verschiebung-im-rat-zeitplan-fuer-chatkontrolle-ist-vorerst-geplatzt/, https://www.heise.de/news/Widerstand-aus-Deutschland-Abstimmung-im-EU-Rat-zur-Chatkontrolle-geplatzt-9310335.html). Jaki będzie finał? Nie wiadomo. Zwolennicy masowej inwigilacji nie zamierzają odpuścić, na szczęście jej przeciwnicy – także.

Zbiór aktów prawnych (zebrane przez EDRI) https://edri.org/our-work/csa-regulation-document-pool/

Stanowiska specjalistów i organizacji zgłaszających sprzeciw wobec kontroli czatu: https://edri.org/our-work/most-criticised-eu-law-of-all-time/

Prasówka

Wydawało mi się, że przez wakacje nie dam rady zrobić, ale jednak się udało.

#prasowka

Państwo, prawo, ochrona danych i inwigilacja

#Inwigilacja #DSA #RODO #ETS #UE #sluzby #kontrolaczatu

• Irlandia: Czy krytyka Big Techów już wkrótce będzie przestępstwem? https://techspresso.cafe/2023/06/27/czy-krytyka-big-techow-juz-wkrotce-bedzie-przestepstwem/?
• Zalando pozywa Komisję Europejską i sprzeciwia się nowym regulacjomhttps://cyberdefence24.pl/polityka-i-prawo/zalando-pozywa-komisje-europejska-i-sprzeciwia-sie-nowym-regulacjom?https://www.heise.de/news/Erste-Klage-gegen-Plattformgesetz-Zalando-will-kein-systemisches-Risiko-sein-9200783.html
• Szwajcaria: Inspektor ochrony danych osobowych bada potencjalne naruszenie prawa w policji, służbach celnych i straży granicznej https://www.heise.de/news/Oberster-Schweizer-Datenschuetzer-untersucht-Verstoesse-bei-Polizei-und-Zoll-9197476.html
• “Z powodu udostępnienia Tweeta odwieźli mnie z dworca do domu i przeszukali mieszkanie” https://la-presse.org/hausdurchsuchung-sozialarbeiter/
• “W swojej opinii rzeczniczka generalna Europejskiego Trybunału Sprawiedliwości (ETS), Laila Medina, określiła składanie odcisków palców do europejskich dowodów tożsamości jako dopuszczalne.” A argumentacja to w zasadzie połączenie ingorancji technologicznej z laurką dla inwigilacji (odciski są ok bo dowody osobiste powinny być odporne na fałszerwa, a poza tym tak jest taniej i wygodniej dla administracji związanej z mobilnością obywateli”.) Opinia nie jest wiążąca, ale w praktyce sędziowie Trybunału często się do tych opini dostosowują. Jeszcze nie wiadomo, kiedy zapadnie ostateczny wyrok.https://netzpolitik.org/2023/europaeischer-gerichtshof-schlechte-karten-fuer-gegner-des-fingerabdrucks-im-perso/https://digitalcourage.de/pressemitteilungen/2023/schlussantraege-generalanwaeltin-klage-gegen-fingerabdruecke
• Inteligentne zabawki. Jak zadbać o prywatność dziecka https://technet-media.pl/ochrona-danych/inteligentne-zabawki-jak-zadbac-o-prywatnosc-dziecka?
• Podczas przesłuchania za zamkniętymi drzwiami irlandzi Departament Sprawiedliwości otrzymał nakaz tamtejszego Sądu Najwyższego, nakazujący firmom telekomunikacyjnym dalszą retencję danych https://mastodon.social/@tjmcintyre/110612361022344159
• Nyob (none of your business – organizacja zajmująca się ochroną danych) wytacza działania przeciwko TeleSign – firmie tworzącej profile scoringowe połowy użytkowników telefonów komórkowych na świecie. NYOB oskarża firmę o tworzenie profili ryzyka na bazie numerów telefonów komórkowych.
  https://netzpolitik.org/2023/datenschutzbeschwerde-gegen-telesign-firma-legt-scoring-profile-der-haelfte-aller-weltweiten-handynutzer-an/https://szmer.info/post/483295
• Meta pracuje nad platformą, która byłaby kompatybilna z fediwersum. To szana czy zagrożenie? (de)https://netzpolitik.org/2023/big-tech-zoff-um-die-zukunft-des-fediverse
• Apple ostrzega przed brytyjskim Online Safety Bill https://www.heise.de/news/Verschluesselung-Auch-Apple-warnt-vor-britischem-Abhoergesetz-9200799.html
• Nadrenia Północna – Westfalia: policja może korzystać z państwowych trojanów i elektronicznych bransoletek na kostkę przez kolejne 5 lat https://netzpolitik.org/2023/polizeigesetz-nordrhein-westfalen-fuenf-weitere-jahre-staatstrojaner/
• Czy cyfrowe euro zagraża prywatności?https://netzpolitik.org/2023/digitaler-euro-expertinnen-warnen-vor-ueberwachungspotential/https://prywatnik.pl/2023/06/28/kwestia-waluty-cyfrowe-euro/
• Kontrola czatu: krok naprzód, ale niewystarczający https://twitter.com/digiges/status/1674384599198081025https://netzpolitik.org/2023/eu-parlament-ausschuss-will-chatkontrolle-an-vier-stellen-stutzen/
• Negocjacje Unii Europejskiej w sprawie regulacji reklamy politycznej są na ostatniej prostej. Trwają rozmowy trójstronne https://netzpolitik.org/2023/politische-werbung-in-der-eu-droht-eine-weichgespuelte-regulierung-gegen-politisches-targeting/
• Odciski palców w dowodach osobistych – czy wymóg jednak pozostanie?https://digitalcourage.de/pressemitteilungen/2023/schlussantraege-generalanwaeltin-klage-gegen-fingerabdruecke
• Urząd Ochrony Danych Osobowych bez nowego prezesa https://panoptykon.org/wiadomosc/urzad-ochrony-danych-osobowych-bez-nowego-prezesa
• Sobowtóry i liczne fałszywe nazwiska, czyli wszystkie (?) paszporty Prigożyna https://zaufanatrzeciastrona.pl/post/sobowtory-i-liczne-falszywe-nazwiska-czyli-wszystkie-paszporty-prigozyna/
• Chiny blokują F-Droid https://szmer.info/post/466431
• Zalando złożyło skargę do Europejskiego Trybunału Sprawiedliwości – nie chce być na bazie DSA klasyfikowane jako wielka platforma internetowa. Twierdzą, że jako platforma prowadząca głównie handel detaliczny nie stwarzają “ryzyka systemowego”, więc nie chcą zajmować się zarządzaniem tego typu ryzykiem.https://www.heise.de/news/Erste-Klage-gegen-Plattformgesetz-Zalando-will-kein-systemisches-Risiko-sein-9200783.html?https://cyberdefence24.pl/polityka-i-prawo/zalando-pozywa-komisje-europejska-i-sprzeciwia-sie-nowym-regulacjom
• Premier wraz ze swoimi służbami wpadł niespodziewanie do jednej z podstawówki, dzieci potraktowano jak przestępców https://www.facebook.com/katarzyna.ciurzynska/posts/pfbid02fAKUkiVqmR1rdpQ1CYq5SrDhBpuZLm6MTvMmboAYbKaxd94LN23SD8GLHMte9r6Ql
• Współpraca polskich i amerykańskich służb przeciwko polskiemu aktywiście LGBT: https://twitter.com/BartStaszewski/status/1673627522636840960?s=20&fbclid=IwAR0tDnfaHawu1MZHaFdrVSZKxdck2cq2ileHN69Efth1aAg_vFrVzcw9oao
• “I Shouldn’t Have to Accept Being in Deepfake Porn” https://www.theatlantic.com/ideas/archive/2023/06/deepfake-porn-ai-misinformation/674475/?
• UE: organy ścigania z łatwiejszym dostępem do dowodów w postaci elektronicznej https://cyberdefence24.pl/polityka-i-prawo/ue-organy-scigania-z-latwiejszym-dostepem-do-dowodow-w-postaci-elektronicznej
• Miały być same talerze, przyszedł też parasol. Duka z karą UOKiK https://antyweb.pl/duka-popularny-sklep-z-kara-uokik
• We Francji przegłosowano, że platformy społecznościowe są od 15 lat (w standardzie jest 13) https://twitter.com/piotrmiecz/status/1674141649734184960
• Prace nad unijnym Aktem o danych o krok do przodu. Jest porozumienie https://cyberdefence24.pl/polityka-i-prawo/prace-nad-unijnym-aktem-o-danych-o-krok-do-przodu-jest-porozumienie
• W chińskim balonie zestrzelonym nad USA wykryto amerykańskie technologie https://cyberdefence24.pl/armia-i-sluzby/w-chinskim-balonie-zestrzelonym-nad-usa-wykryto-amerykanskie-technologie

Sztuczna inteligencja

#AI #SI #sztucznainteligencja

• Praca kobiet zagrożona. 8 na 10 pań może zastąpić sztuczna inteligencja https://www.instalki.pl/aktualnosci/software/59680-praca-kobiet-zagrozona-8-na-10-pan-moze-zastapic-sztuczna-inteligencja.html?
• USA: złożono pozew przeciwko AI o kradzież danych osobowychhttps://www.heise.de/news/ChatGPT-der-Dieb-Klage-gegen-OpenAI-und-Microsoft-9202510.html?wt_mc=sm.red.ho.mastodon.mastodon.md_beitraege.md_beitraegehttps://cyberdefence24.pl/polityka-i-prawo/openai-z-pozwem-za-naruszanie-prywatnosci-i-praw-autorskich
• Które zawody wyeliminuje AI? Rozmawiają Tomasz Rożek, Mateusz Chrobok i Tomasz Gandor https://yewtu.be/watch?v=LrIUbRyTcZI
• AI Act – czym jest unijny akt o sztucznej inteligencji? https://demagog.org.pl/analizy_i_raporty/ai-act-czym-jest-unijny-akt-o-sztucznej-inteligencji/
• “Większość systemów sztucznej inteligencji, z którymi się spotkamy, nie będzie regulowana przez AI Act” – mówił Filip Konopczyński z Panoptykonu w “Raporcie o stanie świata” Dariusza Rosiaka. https://eupolicy.social/@panoptykon/110627044572321378
• Zaglądamy za kulisy powstawania AI Act. Rozmowa z Kosmą Złotowskim. Podcast Panoptykon 4.0 https://panoptykon.org/podcast-ai-act-zlotowski
• Po euforii przyszedł czas na refleksję. Biznes analizuje wpływ sztucznej inteligencjihttps://cyberdefence24.pl/biznes-i-finanse/po-euforii-przyszedl-czas-na-refleksje-biznes-analizuje-wplyw-sztucznej-inteligencji
• Rozpoczynają się pierwsze w historii testy na ludziach leku zaprojektowanego z pomocą AI. https://twitter.com/prywatnik/status/1673604898884132865
• Serwisy zasilane sztuczną inteligencją. Zalewane treściami, zarabiają na reklamach https://cyberdefence24.pl/technologie/serwisy-zasilane-sztuczna-inteligencja-zalewane-tresciami-zarabiaja-na-reklamach
• ChatGPT na iOS w końcu przestanie żyć w przeszłości. Chatbot ma dostęp do internetu, ale jest haczyk https://spidersweb.pl/2023/06/chatgpt-ios-internet.html
• Jacek Dukaj o sztucznej inteligencji: https://twitter.com/TrajektoriaAI/status/1674139353310810129
• Klonowanie głosu. Fałszywe próbki mogą oszukać systemy uwierzytelniania https://cyberdefence24.pl/cyberbezpieczenstwo/klonowanie-glosu-falszywe-probki-moga-oszukac-systemy-uwierzytelniania

Cyberbezpieczeństwo

#cyberbezpieczenstwo

• Skradziono jej samochód, więc śledziła pozostawiony w nim AirTag. Została zastrzelona https://futurezone.at/digital-life/61-jaehrige-frau-bakersfield-kalifornien-airtag-gestohlenes-auto-diebe-erschossen-tot/402499566
• Rosyjska Duma Państwowa przyjęła ustawę o karach za “nielegalne wykorzystanie zagranicznych komunikatorów” https://infosec.exchange/@avolha/110599613427815295
• Zaufana Trzecia Strona – weekendowa lektura https://zaufanatrzeciastrona.pl/post/weekendowa-lektura-odcinek-525-2023-06-24-bierzcie-i-czytajcie/
• Złodzieje podszywają się pod instytucje rządowe https://mastodon.cloud/@niebezpiecznik/110623781081865674
• TikTok zamiast „Wydarzeń” i „Faktów”? Skąd młodzi czerpią newsy https://demagog.org.pl/analizy_i_raporty/tiktok-zamiast-wydarzen-i-faktow-skad-mlodzi-czerpia-newsy/
• Jak chronić się przed cyberszpiegostwem? Wyłączyć telefon – choć raz dziennie https://techspresso.cafe/2023/06/26/jak-chronic-sie-przed-cyberszpiegostwem-wylacz-telefon-raz-dziennie/
• Fińska wyspa ogłasza się pierwszą w Europie strefą bez telefonu. Turyści mają się skupić na przyrodzie https://www.fly4free.pl/finlandia-wyspa-strefa-bez-telefonu/?
• Atak hakerski w Olsztynie. Sparaliżował miasto https://cyberdefence24.pl/cyberbezpieczenstwo/atak-hakerski-w-olsztynie-sparalizowal-miasto
• Złamanie EncroChatu. 6,5 tys. aresztowanych, konfiskata 900 mln euro https://cyberdefence24.pl/cyberbezpieczenstwo/zlamanie-encrochatu-65-tys-aresztowanych-konfiskata-900-mln-euro

BigTechy:

#BigTech #fb #Meta #microsoft

• Sakowski przejął konto Marszu dla Nauki i może oddać, ale za 15 tys. zł https://aszdziennik.pl/148574,na-profilu-marszu-dla-nauki-wykryto-niebezpieczne-stezenie-sakowskiego
• Moderator Mety zawieszony za zeznawanie przed komisją Bundestagu został przywrócony do miejsca pracy
• Jak się czują zablokowani? Druga rozprawa SIN vs Facebook https://panoptykon.org/po-drugiej-rozprawie-SINvsFacebook
• Facebook nie chce płacić, woli zakazać publikacji linków z tego kraju https://antyweb.pl/facebook-nie-chce-placic-za-dzielenie-sie-tresciami
• Microsoft ignoruje ustawienia systemowe i domyślnie otwiera linki w Edge https://mastodon.internet-czas-dzialac.pl/@icd/110623055783276220
• Shein zabiera influencerów na wycieczki w zamian za dobry PR. To stara metoda https://techspresso.cafe/2023/06/27/shein-zabiera-influencerow-na-wycieczki-w-zamian-za-dobry-pr-to-stara-metoda/
• Premier Kambodży zawieszony na fb – używał go do grożenia przemocą i nocnymi aresztowaniamihttps://www.heise.de/news/Facebook-Oversight-Board-fuer-Sperre-von-Kambodschas-Premier-Flucht-zu-Telegram-9203316.html?wt_mc=sm.red.ho.mastodon.mastodon.md_beitraege.md_beitraege

Dobre wiadomości

#dobre

nowy pomysł, żeby wrzucać do prasówki różne (nie tylko z tematyki prywatnościowej czy technologicznej) dobre wiadomości, bo mamy jako społeczeństwo tendencję do ignorowania tych dobrych i skupiania się na tych złych. A powinno być odwrotnie. Wiadomości mało, ale jak już stworzyłam dla nich dział, to mam nadzieję, że z czasem będę wrzucać więcej ;–)

• Powstała fundacja Pogoń Ruska https://www.facebook.com/pogonruska/posts/pfbid02jtDbPmjWHHXGrxPwvCzABU3DaeVGZjxgp17qsQNufNZkproB4KRqD8jXCpzsBZrgl
• Moderator Mety (formalnie zatrudniony przed podwykonawcę), zawieszony za zeznawanie przed Bundestagiem, po protestach ma znów dostęp do swojego miejsca pracy https://www.verdi.de/presse/pressemitteilungen/++co++b4b809d8-1682-11ee-9c94-001a4a16012a?

didleth

2023-06-29 20:28:15

Nyob vs firma tworząca profile na bazie numerów telefonów

Nyob (none of your business - organizacja zajmująca się ochroną danych) wytacza działania przeciwko TeleSign - firmie tworzącej profile scoringowe połowy użytkowników telefonów komórkowych na świecie. NYOB oskarża firmę o tworzenie profili ryzyka na bazie numerów telefonów komórkowych. Wedle reklamy "Telesign łączy, chroni i broni doświadczeń klientów dzięki wglądowi w miliardy cyfrowych interakcji i sygnałów mobilnych". NYOB zwraca uwagę, że w praktyce oznacza to iż firma ocenia dane z telefonu, buduje na ich podstawie profil, który udostępnia np. TikTokowi czy Microsoftowi. I na bazie tego profilu firmy mogą zdecydować, czy użytkownik danego numeru telefonu może skorzystać z usługi, czy też może musi dodatkowo wykonać inne czynności weryfikacyjne.