(Cathy O’Neil/WP Bloomberg) – Se você nunca ouviu falar a respeito da ascensão e queda do aplicativo de fotos Ever, sugiro que preste atenção. Sua história ilustra como o governo, se quisesse, poderia obrigar gigantes da tecnologia como Google (GOGL34) e Facebook (FBOK34) a respeitar a privacidade das pessoas.
Leia também
Como muitos serviços em nuvem, o Ever oferecia aos usuários um local para armazenar suas fotos. Então, ele foi além disso, usando essas fotos para treinar um algoritmo de reconhecimento facial, que tinha como foco a polícia e outros clientes em potencial.
Alguns usuários do Ever sentiram que sua privacidade foi violada, e a Federal Trade Commission (FTC) alegou que a empresa, Everalbum, agiu de forma enganosa ao empregar o reconhecimento facial sem o conhecimento dos clientes e ao não excluir suas fotos quando desativaram suas contas.
O que é realmente interessante são os termos do acordo alcançado esta semana. Ele não exige apenas que o Everalbum apague as fotos em questão e obtenha o consentimento dos consumidores para usar o reconhecimento facial. A empresa também deve excluir todos os algoritmos que desenvolveu com as fotos e vídeos que obteve por meio do aplicativo (que foi desativado em 2020).
O foco da FTC nos algoritmos pode abrir um precedente poderoso. No mundo da inteligência artificial, os dados das pessoas são apenas a matéria-prima: para o Google, termos de busca e cliques em anúncios; para o Facebook, as postagens que as pessoas leem e há quanto tempo estão engajadas; para a Amazon (AMZO34), o que as pessoas compram e como encontram os itens. As empresas então usam esses dados para atualizar seus algoritmos – diariamente, a cada hora ou mesmo a cada minuto – para atrair e gerar lucro para cada vez mais pessoas. Os algoritmos são a parte central do produto. Eles contêm todo o conhecimento acumulado, incluindo os links mais recentes, os virais do momento e os lançamentos mais desejados.
Portanto, quando a FTC multa o Facebook em US$ 5 bilhões por uso indevido de dados do usuário, como aconteceu em 2019, talvez saia caro, mas está longe de causar seu fim. Os ativos mais valiosos – os algoritmos que o Facebook desenvolveu a partir dos dados desviados – permanecem intactos. Como os corpos de pacientes de eutanásia no thriller distópico “No mundo de 2020”, as informações das pessoas já foram processadas para o produto final, que está pronto para ser fornecido ao próximo da fila.
Mas e se as autoridades exigissem que o Facebook excluísse as partes ilícitas do algoritmo? E se a empresa tivesse que voltar para uma versão anterior, antes de começar a usar indevidamente os dados? A inteligência artificial estaria completamente fora de alcance: imagine o Facebook exibindo artigos anteriores às eleições de 2016. O novo treinamento sem as informações perdidas exigiria um esforço monumental, bagunçando seriamente o modelo de negócios por algum tempo.
É aí que reside uma arma potente. Se as autoridades informarem que virão atrás dos algoritmos na próxima vez que pegarem alguém fazendo uso indevido de dados, as empresas de tecnologia provavelmente levarão as preocupações com a privacidade muito mais a sério.
(Tradução de Romina Cácia)
– – –
Esta coluna não reflete necessariamente a opinião do conselho editorial ou da Bloomberg LP e seus proprietários. Cathy O’Neil é colunista da Bloomberg.
Invista em oportunidades que combinam com seus objetivos. Abra sua conta na Ágora Investimentos
