Amazon atingida com acusações de privacidade e paralisação de trabalhadores

O último dia não foi bom para a reputação da Amazon, que se viu criticada por reguladores americanos, ativistas britânicos pela justiça fiscal - e sua própria equipe.

A maior notícia veio por cortesia da Comissão Federal de Comércio dos EUA e do Departamento de Justiça, que ontem acusou a Amazon de graves violações da privacidade das crianças com seu assistente Alexa - a Amazon disse aos pais e outros usuários que eles poderiam excluir gravações de voz e dados de geolocalização do Alexa, mas , se o fizessem, a Amazon ainda mantinha alguns dos dados por anos para poder treinar melhor o Alexa.

A FTC e o DOJ chamaram isso de fraude e violação da Regra de Proteção à Privacidade Online das Crianças, ou COPPA. De acordo com o acordo proposto, a Amazon terá que pagar US$ 25 milhões – mais importante, também terá que mudar suas práticas de exclusão, excluir os dados que não deveria ter guardado e evitar o uso desses dados para treinar seus algoritmos.

“Adicionando insulto à violação da privacidade, por pelo menos um ano, a Amazon deu a 30.000 funcionários acesso às gravações de voz dos usuários do Alexa – embora muitos desses funcionários não tivessem necessidade comercial dos arquivos”, escreveu o advogado sênior da FTC, Lesley Fair, em uma postagem no blog. .

Separadamente, a FTC também acusou a subsidiária Ring da Amazon de "comprometer a privacidade de seus clientes ao permitir que qualquer funcionário ou contratado acesse os vídeos privados dos consumidores e ao não implementar proteções básicas de privacidade e segurança, permitindo que hackers assumam o controle das contas dos consumidores, câmeras e vídeos."

Este é doloroso - leia e chore:

"Um funcionário durante vários meses assistiu a milhares de gravações de vídeo pertencentes a usuárias de câmeras Ring que vigiavam espaços íntimos em suas casas, como banheiros ou quartos. O funcionário não foi parado até que outro funcionário descobrisse a má conduta. Mesmo depois que o Ring impôs restrições sobre quem poderia acessar os vídeos dos clientes, a empresa não foi capaz de determinar quantos outros funcionários acessaram indevidamente os vídeos privados porque a Ring falhou em implementar medidas básicas para monitorar e detectar o acesso aos vídeos dos funcionários... Hackers insultaram várias crianças com calúnias racistas, propostas sexuais indivíduos e ameaçou uma família com danos físicos se eles não pagassem o resgate".

Um acordo proposto faria com que a Ring pagasse $ 5,8 milhões por reembolsos ao consumidor - e, novamente, teria que "excluir produtos de dados, como dados, modelos e algoritmos derivados de vídeos que revisou ilegalmente".

A Amazon, portanto, tornou-se o alvo de maior visibilidade de uma ordem de destruição algorítmica da FTC (destinatários anteriores incluem Cambridge Analytica, Everalbum e Kurbo).

Como observou a presidente da Signal Foundation e especialista em ética da IA, Meredith Whittaker: "A proteção de dados é a regulamentação da IA". A presidente da FTC, Lina Khan, e os comissários Alvaro Bedoya e Rebecca Kelly Slaughter fizeram uma declaração semelhante em uma declaração – relacionada ao caso Alexa – que foi explicitamente dirigida a todos os jogadores de Big Tech que correm para treinar seus grandes modelos de IA:

"O aprendizado de máquina não é desculpa para infringir a lei. Alegações de empresas de que os dados devem ser retidos indefinidamente para melhorar os algoritmos não substituem as proibições legais de retenção indefinida de dados. Os dados que você usa para melhorar seus algoritmos devem ser coletados e retidos legalmente. As empresas fariam bem em prestar atenção a esta lição."

Amazon: "Embora discordemos das reivindicações da FTC em relação ao Alexa e ao Ring e neguemos a violação da lei, esses acordos deixaram esses assuntos para trás." Um porta-voz disse que as mudanças que precisa fazer em suas políticas de Alexa representam apenas "uma pequena modificação em nossas práticas já fortes" e também que "a Ring abordou prontamente as questões em questão por conta própria anos atrás, bem antes de a FTC iniciar sua investigação." A empresa publicou postagens de blog separadas sobre os acordos Ring e Alexa. No entanto, ele não abordou o problema de ter que treinar novamente ou excluir seus algoritmos.

Enquanto isso, longe da terra regulamentada, mais de 100 trabalhadores na sede da Amazon em Seattle organizaram uma paralisação planejada devido a um trio de questões: o forte impacto climático da Amazon (a empresa simplesmente recuou silenciosamente de um compromisso de "Remessa Zero" de reduzir metade de suas remessas à emissão de carbono). neutro); sua política recentemente promulgada de forçar a maioria dos trabalhadores a voltar ao escritório por pelo menos três dias por semana; e o recente despedimento de cerca de 27.000 trabalhadores.