Bill C-34, ustawa o bezpiecznych mediach społecznościowych (Safe Social Media Act) rządu Marka Carneya, ma chronić dzieci w internecie. Według organizacji broniących swobód obywatelskich może jednak stworzyć aparat cenzury, który uderzy w dorosłych. Tak zeznali we wtorek przed komisją dziedzictwa kanadyjskiego Izby Gmin Projekt przeszedł drugie czytanie w październiku i jest teraz analizowany w komisji.
C-34 nakłada na platformy społecznościowe i firmy rozwijające czatboty AI obowiązek ograniczania kontaktu użytkowników ze „szkodliwymi treściami”. Ustawa wymienia ich siedem kategorii, m.in. podżeganie do nienawiści, przemoc, terroryzm i ekstremizm, intymne materiały publikowane bez zgody oraz treści wykorzystujące seksualnie dzieci. Projekt tworzy też nowy urząd, Digital Safety Commission of Canada. Komisja mogłaby wydawać dalsze regulacje, oceniać plany bezpieczeństwa platform, przeprowadzać audyty i nakładać kary. Ustawa przewiduje także podniesienie minimalnego wieku zakładania kont oraz obowiązek, by czatbot AI przerywał rozmowę i kierował użytkownika do pomocy kryzysowej, gdy ten mówi o samobójstwie lub chęci skrzywdzenia innych.
„Proponowana ustawa wykorzystuje uzasadnione obawy o bezpieczeństwo dzieci w sieci jako konia trojańskiego, żeby stworzyć nowy aparat cenzury, który uciszy dorosłych” – mówił Josh Dehaas, prawnik i p.o. dyrektora ds. postępowań sądowych w Canadian Constitution Foundation (CCF). Jego zdaniem nie da się praktycznie powstrzymać wskazanych w ustawie treści, nie ograniczając przy tym „bardzo dużej ilości kontrowersyjnej, ale legalnej wypowiedzi”, czyli tej, którą chroni art. 2(b) Kanadyjskiej Karty Praw i Wolności. Firmy zagrożone wysokimi karami będą wolały usunąć za dużo niż za mało. „Tam, gdzie prawo jest niejasne, platformy będą błądzić na korzyść cenzurowania” – ostrzegał. Nową komisję nazwał „łagodną wersją orwellowskiego Ministerstwa Prawdy”.
Dehaas zwrócił uwagę, że C-34 wzorowano na unijnym akcie o usługach cyfrowych (DSA). Powołał się na badanie think tanku Future of Free Speech z Uniwersytetu Vanderbilt: wśród usuniętych komentarzy w Niemczech 99,7% na Facebooku i 98,9% na YouTube stanowiły według prawników wypowiedzi zgodne z prawem. Przyznał też, że sam ma kłopot z rozróżnieniem wypowiedzi, które „nienawidzą”, od takich, które jedynie „lekceważą”, „ranią” czy „obrażają”. „A badania pokazują, że systemy automatyczne radzą sobie z tym jeszcze gorzej niż ja” – dodał.
Matthew Hatfield z organizacji praw cyfrowych OpenMedia, która co do zasady popiera regulację, ostrzegł, że komisja będzie miała „nadzwyczajną władzę” nad tym, jak moderowane są wypowiedzi Kanadyjczyków. Domagał się, by jej członków nie powoływała jedna partia, i chce silniejszego nadzoru parlamentu. Na pytanie konserwatywnej posłanki Rachael Thomas, czy platformy mogą automatycznie kasować wszystkie wpisy z „podejrzanym” słowem, odpowiedział, że to „realne zagrożenie”. Konserwatywny poseł Andrew Lawton podkreślił z kolei, że obywatelowi będzie trudno się bronić, jeśli treść usunie prywatna firma pod presją państwa. Dehaas przyznał, że kontrola sądowa byłaby wtedy możliwa, ale „znacznie trudniejsza”.
Nikt rozsądny nie kwestionuje, że dzieci trzeba chronić przed przemocą seksualną i nękaniem. Ale to już jest przestępstwem, a kanadyjskie prawo karne i cywilne daje narzędzia do ścigania sprawców. C-34 robi coś innego: tworzy nowy urząd o szerokich uprawnieniach, który sam będzie mógł doprecyzowywać, co jest „szkodliwe”. Kategoria taka jak „treści sprzyjające ekstremizmowi” jest gumowa, a jej granice wyznaczą urzędnicy i algorytmy, nie sąd.































































