Mondo

Per reprimere i modelli oscuri, la Commissione europea ha bisogno di ricercatori di design

Mentre si prepara a far rispettare il Digital Services Act (DSA), la Commissione europea dovrebbe assumere esperti nella progettazione e nell’esperienza dell’utente, poiché queste competenze sono essenziali per reprimere le pratiche di progettazione ingannevoli.

Claire Pershan è responsabile della difesa dell’UE presso la Mozilla Foundation e Caroline Sinders è una designer critica e ricercatrice sui diritti umani.

A differenza del regolamento sulla privacy dell’UE, che ha lasciato l’applicazione agli Stati membri, il DSA vedrà la Commissione diventare un’autorità di regolamentazione. Vigilerà sulla conformità delle “piattaforme online molto grandi” e dei “motori di ricerca online molto grandi”, definiti come quelli con oltre 45 milioni di utenti nell’UE.

Ora la Commissione europea sta cercando di dotare la sua nuova direzione delle piattaforme e il suo Centro europeo per la trasparenza algoritmica di giuristi, funzionari politici, economisti, professionisti della comunicazione e della gestione della comunità ed esperti di sicurezza informatica.

Dato che dovranno guardare “sotto il cofano” delle aziende e valutare il rispetto degli obblighi relativi alla moderazione dei contenuti e alla raccomandazione algoritmica, stanno chiamando ricercatori e dottorandi provenienti da una varietà di campi, con esperienza in informatica, scienza dei dati , intelligenza artificiale, scienze sociali e ingegneria.

Sarà sufficiente? Il tempismo è toccante; la Commissione sta costituendo il suo team di applicazione proprio mentre le società che supervisionerà stanno licenziando centinaia di dipendenti incaricati di fiducia e sicurezza, privacy e altri doveri di conformità.

Alcuni suggeriscono che la Commissione assuma persone con competenze rilevanti recentemente lasciate andare dai ranghi delle società. Con incarichi a Siviglia, in Spagna e Ispra, in Italia, la Commissione potrebbe esserlo in grado di sedurre alcuni tecnici europei per entrare a far parte del settore pubblico. Ma la Commissione dovrebbe anche puntare sui ricercatori di design con esperienza nell’esperienza utente e nel design dell’interfaccia utente (UX/UI, nella Silicon Valley, parli).

Queste competenze sono necessarie per individuare pratiche di progettazione ingannevoli, che possono essere utilizzate per eludere gli obblighi normativi.

Designer e product manager sono tecnologi così come esperti socio-tecnici. Molti dipendenti che ricoprono tali ruoli nelle grandi aziende tecnologiche e nelle startup non hanno un dottorato di ricerca, ma ciò che mancano di credenziali, lo compensano con l’esperienza sul campo nel mondo reale, in particolare con l’intelligenza artificiale, gli algoritmi e l’apprendimento automatico e come gli utenti interagiscono con questi sistemi.

Questo è qualcosa che il nostro coautore ha visto da vicino lavorando come ricercatore di design presso IBM Watson sui prodotti AI e con PAIR (il gruppo di ricerca sulle persone e l’intelligenza artificiale) di Google. Il design è un processo creativo oltre che un processo di traduzione. Prendere sistemi o algoritmi di intelligenza artificiale e creare prodotti attorno ad essi richiede la comprensione di come le persone utilizzano il software e di come tale software è incorporato in processi che, idealmente, si sentono fluidi e intuitivi

Ai legislatori piace dire che “il diavolo è nei dettagli”. Come sanno gli esperti di design, il diavolo è nell’esperienza dell’utente. La politica tecnologica non riguarda solo le regole; deve comportare considerazioni progettuali per rendere i requisiti normativi o di trasparenza validi e attuabili.

Da nessuna parte questo è più chiaro che con modelli di progettazione ingannevoli, architetture online che guidano le persone verso decisioni potenzialmente dannose e possono essere sfruttate come tattica per aggirare le normative. I pop-up dei cookie irritanti e paralizzanti che hanno seguito l’implementazione del Regolamento generale sulla protezione dei dati (GDPR) in Europa utilizzano spesso tecniche di progettazione ingannevoli per consentire alle aziende di continuare a fare affari come al solito sotto la patina della conformità.

Gran parte del potere del DSA dipende dalla sua capacità di influenzare il design della piattaforma. Una cosa è obbligare le aziende a creare un sistema di raccomandazione alternativo o un meccanismo di appelli sui contenuti, ad esempio, ma un’altra è garantire che presentino queste opzioni agli utenti in modo equo, onesto o “user-friendly”. (In effetti, il qualificatore “user-friendly” appare nel DSA 9 volte.)

Abbiamo già visto modelli di progettazione ingannevoli sabotare la regolamentazione, con l’implementazione irregolare dei banner di consenso GDPR o gli strumenti di segnalazione sepolti richiesti dal German Network Enforcement Act (NetzDG).

Il design è parte integrante del processo di rendere comprensibili sia il codice che la politica a tutte le persone; può avere un impatto radicale sulla traduzione della politica tecnologica in software e sistemi. Mentre si prepara ad applicare quello che potrebbe essere il regime normativo più ambizioso per le piattaforme online in tutto il mondo, il regolatore europeo ha bisogno di competenze di progettazione interne.

Ultime Notizie

Back to top button