Prove que você não seja um robô

 

Por TIM WU

 

Quando os escritores de ficção científica imaginaram as invasões de robôs, a idéia era que os robôs se tornariam inteligentes e poderosos o suficiente para conquistar o mundo pela força, seja por conta própria ou como dirigido por algum malfeitor. Na realidade, algo a pouco um pouco menos assustador está acontecendo. Os robôs estão ficando melhores, todos os dias, para personificar seres humanos. Quando dirigidos por oportunistas, malfeitores e, às vezes, até estados-nação, representam uma ameaça particular para as sociedades democráticas, que se baseiam em estar abertas ao povo.

 

Robôs posando como pessoas se tornaram uma ameaça. Para os shows populares da Broadway (precisamos dizer "Hamilton"?), Na verdade, são bots, não humanos, que fazem muito e talvez a maioria da compra de bilhetes. Os shows são vendidos imediatamente, e os intermediários (literalmente, mestres de robôs malvados) colhem milhões em ganhos mal adquiridos.

 

Philip Howard, que administra o Projeto de Pesquisa de Propaganda Computacional em Oxford, estudou a implantação de bots de propaganda durante a votação de Brexit e as recentes eleições presidenciais americanas e francesas. O Twitter é particularmente distorcido por seus milhões de contas de robôs; Durante as eleições francesas, foram principalmente robôs do Twitter que estavam tentando fazer o #MacronLeaks em um escândalo. O Facebook admitiu que foi essencialmente pirateado durante as eleições americanas em novembro. Em Michigan, o Sr. Howard observa que "as novidades foram compartilhadas tão amplamente quanto as notícias profissionais nos dias anteriores às eleições".

 

Robôs também estão sendo usados para atacar as características democráticas do estado administrativo. Nesta primavera, a Comissão Federal de Comunicações colocou a proposta de revogação da neutralidade da rede para comentários públicos. Em anos anteriores, tais procedimentos atraíram milhões de comentaristas (humanos). Desta vez, alguém com uma agenda, mas nenhum suporte público real desencadeou robôs que personificaram (através de identidades roubadas) centenas de milhares de pessoas, inundando o sistema com falsos comentários contra as regras federais da neutralidade da rede.

 

Com certeza, os modos de representação de hoje são diferentes dos robôs imaginados na ficção científica: não são sensíveis, não carregam armas e não possuem corpos físicos. Em vez disso, os humanos falsos apenas têm o que for necessário para fazê-los parecer humanos o suficiente para "passar": um nome, talvez uma aparência virtual, um número de cartão de crédito e, se necessário, uma profissão, aniversário e endereço residencial. Eles são trazidos à vida por programas ou scripts que dão a uma pessoa o poder de imitar milhares.

 

O problema é quase certo piorar, espalhando-se para mais áreas da vida, pois os bots são treinados para se tornar melhor em imitar seres humanos. Dado o grau em que as revisões do produto foram inundadas por robôs (que tendem a distribuir cinco estrelas com abandono), a sabotagem comercial na forma de resenhas negativas de bot não é difícil de prever. Nos próximos anos, os limites das finanças das campanhas serão (e talvez já são) evadidos por exércitos robóticos que se apresentam como "pequenos" doadores. E o voto real é outro alvo óbvio - talvez o objetivo final.

 

Até agora, estamos satisfeitos em deixar o problema para a indústria de tecnologia, onde o foco tem sido a construção de defesas, geralmente sob a forma de Captchas ("teste de Turing público completamente automatizado para dizer computadores e humanos separados"), aqueles irritantes "Digite" essas provas para provar que você não é um robô. Mas deixar tudo para a indústria não é uma solução a longo prazo. Por um lado, as defesas não impedem os bots de personificação, mas recompensam perversamente quem pode vencê-los. E, talvez, o maior problema para uma democracia é que empresas como o Facebook e o Twitter não têm um incentivo financeiro sério para fazer qualquer coisa em questões de interesse público, como milhões de falsos usuários que estão corrompendo o processo democrático. O Twitter estima pelo menos 27 milhões de contas provavelmente falsas; Os pesquisadores sugerem que o número real é mais próximo de 48 milhões,

 

O problema é tanto público como privado, e os robôs de representação devem ser considerados o que a lei chama de "hostis humani generis": inimigos da humanidade, como piratas e outros fora da lei. Isso permitiria uma estratégia ofensiva melhor: levando o poder do Estado às pessoas que estão implantando os exércitos de robôs para atacar o comércio ou a democracia.

 

A campanha anti-robô ideal empregaria uma abordagem tecnológica e jurídica mista. A melhor detecção de robôs pode nos ajudar a encontrar os mestres do robô ou potencialmente ajudar a segurança nacional a desencadear contra-ataques, o que pode ser necessário quando os ataques vêm do exterior. Pode haver espaço para substituir festas privadas para perseguir robôs ruins. Um simples remédio legal seria uma lei "Blade Runner" que torna ilegal a implantação de qualquer programa que esconda sua identidade real para se colocar como humano. Processos automatizados devem ser necessários para indicar: "Eu sou um robô". Ao lidar com um humano falso, seria bom saber.

 

O uso de robôs para apoio falso, roubar ingressos ou bloquear a democracia é realmente o tipo de mal que os escritores de ficção científica estavam alertando. O uso de robôs aproveita o fato de que campanhas políticas, eleições e até mercados abertos fazem suposições humanistas, confiando que há sabedoria ou pelo menos legitimidade em multidões e valor no debate público. Mas quando o suporte e a opinião podem ser fabricados, argumentos ruins ou impopulares não podem ganhar por lógica, mas por uma nova forma de força perigosa - a ameaça máxima para toda democracia.

 

Fonte: NYTIMES