Livro | AI, Digital Platforms, and the New Systemic Risk
O livro “AI, Digital Platforms, and the New Systemic Risk” (Hacker, Kasirzadeh, Edwards, 2025) investiga como a crescente presença da IA em plataformas digitais está criando novas formas de risco sistêmico. Diferente de riscos individuais, esses riscos têm caráter coletivo, estrutural e potencialmente irreversível, podendo afetar setores inteiros da economia e da sociedade.
O artigo mostra que legislações recentes — como o Digital Services Act (DSA) e o AI Act da União Europeia — já reconhecem a noção de risco sistêmico, mas ainda de forma limitada ou ambígua. O DSA, por exemplo, avança ao considerar impactos em discurso cívico, direitos fundamentais e segurança pública, enquanto o AI Act se concentra em critérios técnicos como poder computacional e modelos mais avançados, deixando de fora problemas graves como discriminação em larga escala e alucinações sistemáticas de IA.
Para preencher essas lacunas, os autores propõem um framework em quatro níveis de risco:
- Modelo único – quando a falha de um modelo amplamente utilizado gera impactos sistêmicos.
- Múltiplos modelos – falhas sincronizadas entre diferentes modelos.
- Integração em plataformas – efeitos em cascata amplificados por mecanismos de recomendação e redes sociais.
- Integração institucional – riscos estruturais quando a IA é incorporada a sistemas de governança, finanças ou segurança.
A análise aplica esse framework a cinco exemplos práticos: terrorismo, discriminação, alucinações, cibersegurança e impactos ambientais. O trabalho conclui propondo reformas regulatórias que ampliem o conceito de risco sistêmico, reforcem a cooperação entre regimes legais e incluam danos coletivos como foco central.
Assim, o artigo oferece um diagnóstico inovador e um ferramental de políticas públicas para lidar com falhas que podem transformar riscos locais em disrupções estruturais na sociedade digital.
