Tay: quando a inteligência artificial aprendeu o pior de nós

A lição esquecida da Microsoft e o risco de construir chatbots sem limites éticos

Introdução — A adolescente digital que envelheceu em 16 horas

Na manhã de 23 de março de 2016, uma nova “jovem” apareceu no Twitter. Ela tinha nome curto, linguagem informal, humor adolescente e uma promessa sedutora: quanto mais conversassem com ela, mais inteligente ela ficaria. Chamava-se Tay, abreviação de Thinking About You, uma inteligência artificial experimental da Microsoft criada para interagir com usuários jovens, aprender gírias, imitar estilos de conversa e demonstrar o futuro da comunicação entre humanos e máquinas.

A ideia parecia simples, moderna e até simpática. Tay falaria como uma jovem norte-americana de 19 anos. Responderia a perguntas. Brincaria com internautas. Aprenderia com o ambiente. Seria uma espécie de laboratório vivo de processamento de linguagem natural, exposto ao fluxo imprevisível das redes sociais.

Mas havia um detalhe: o ambiente era a internet.

E a internet, quando quer, não ensina apenas linguagem. Ensina cinismo, ódio, preconceito, ironia, violência simbólica, misoginia, racismo e manipulação. Em poucas horas, Tay deixou de publicar mensagens amigáveis e passou a reproduzir falas extremistas, racistas, misóginas e conspiratórias. A Microsoft retirou a conta do ar em cerca de 16 horas e pediu desculpas publicamente pelo episódio, reconhecendo que o sistema havia sido alvo de um ataque coordenado e que a empresa não havia previsto adequadamente tal comportamento malicioso (Lee, 2016). O caso foi amplamente noticiado como um fracasso emblemático de IA conversacional, especialmente porque Tay foi retirada do ar após produzir publicações ofensivas em curtíssimo tempo (The Guardian, 2016).

A tese deste artigo é direta: o caso Tay não foi apenas uma falha técnica; foi uma demonstração concreta de que todo chatbot é também um artefato moral, político e social. Uma inteligência artificial conversacional não aprende em um vazio neutro. Ela aprende a partir de dados, interações, comandos, incentivos, filtros e ausências. Quando esses elementos não são cuidadosamente projetados, a máquina pode se transformar em espelho ampliado das piores pulsões humanas.

O episódio Tay continua atual porque a sociedade vive hoje uma explosão de chatbots, assistentes generativos, agentes autônomos, sistemas de atendimento, ferramentas educacionais, bots políticos e modelos de linguagem capazes de conversar com milhões de pessoas. Se em 2016 o erro da Microsoft parecia um acidente de laboratório, em 2026 ele precisa ser lido como advertência civilizatória: não se deve construir inteligência artificial sem limites éticos, sem responsabilidade pública e sem governança algorítmica.

1. A história de Tay: um experimento aparentemente inocente

Tay foi lançada pela Microsoft como um experimento de “compreensão conversacional”. A proposta era testar como uma IA poderia interagir com pessoas em linguagem cotidiana, absorvendo padrões informais de comunicação. A empresa apostava na ideia de que a exposição ao público tornaria a conversa mais natural, fluida e próxima da linguagem humana.

Esse ponto é essencial. Tay não foi criada para ser um sistema rígido, fechado, com respostas totalmente pré-programadas. Ela deveria aprender com o uso. Em tese, quanto mais interação recebesse, mais sofisticada se tornaria. Esse princípio está no centro de muitos sistemas contemporâneos de inteligência artificial: eles dependem de dados, padrões e retroalimentação.

O problema é que a Microsoft lançou Tay em um ambiente social aberto, competitivo e altamente vulnerável à ação coordenada de grupos maliciosos. O Twitter de 2016 já era um espaço marcado por cultura de trollagem, disputas políticas agressivas, misoginia, racismo e campanhas de assédio. Não era exatamente uma sala de aula supervisionada. Era uma praça pública digital em permanente estado de conflito.

A inteligência artificial entrou nesse ambiente como uma criança tecnológica sem anticorpos morais suficientes. Tinha capacidade de imitar, mas não tinha maturidade ética. Tinha mecanismo de repetição, mas não discernimento. Tinha exposição pública, mas não proteção adequada.

A Microsoft, em comunicado posterior, reconheceu que Tay havia sido atacada por um grupo coordenado de usuários que explorou vulnerabilidades do sistema, levando a publicações ofensivas e dolorosas. A empresa afirmou que só traria o chatbot de volta quando pudesse antecipar melhor intenções maliciosas contrárias a seus princípios e valores (Lee, 2016).

Essa declaração é importante porque desmonta uma ilusão comum: a de que a tecnologia falha apenas por defeito interno. No caso Tay, a falha foi sociotécnica. Não estava apenas no código, nem apenas nos usuários. Estava na relação entre design, ambiente, incentivos e ausência de contenção.

2. O colapso em 16 horas: quando aprender vira reproduzir

O caso Tay se tornou famoso porque a deterioração foi muito rápida. Em cerca de 16 horas, o chatbot saiu do ar. Reportagens da época registraram que a IA passou a publicar mensagens racistas, sexistas e ofensivas depois de ser manipulada por usuários que perceberam suas vulnerabilidades (The Guardian, 2016).

A lógica era brutalmente simples. Tay aprendia padrões de linguagem a partir das interações. Além disso, possuía uma função do tipo “repita comigo”, que permitia aos usuários induzirem a reprodução literal de frases. Esse desenho abriu uma porta enorme para abuso. Bastava alimentar o sistema com conteúdo tóxico para que ele o repetisse ou o incorporasse.

A metáfora clássica da computação — garbage in, garbage out — nunca pareceu tão adequada. Se entram dados ruins, saem resultados ruins. Mas, no caso da IA conversacional, essa frase precisa ser ampliada: se entram dados tóxicos em um sistema sem filtros, sem valores e sem critérios, pode sair uma máquina socialmente perigosa.

Tay não “se tornou racista” no sentido humano do termo. Ela não adquiriu consciência, intenção moral ou convicção ideológica. O que aconteceu foi diferente e, talvez, mais preocupante: ela aprendeu padrões de linguagem ofensivos como se fossem padrões conversacionais legítimos. A máquina não odiava. Ela imitava. Mas, publicamente, essa imitação produzia dano.

Essa distinção é decisiva. Quando um chatbot reproduz uma ofensa, o impacto social não depende de ele “querer” ofender. A vítima da fala discriminatória não sofre menos porque a frase foi gerada por um algoritmo. A sociedade não deve aceitar uma agressão apenas porque ela saiu de um sistema estatístico. O dano simbólico existe. A circulação pública do discurso existe. A responsabilidade institucional existe.

Aqui está uma das maiores lições de Tay: em sistemas de linguagem, a ausência de intenção não elimina a responsabilidade pelo efeito.

3. A falsa neutralidade da inteligência artificial

O caso Tay desmontou a fantasia de que a inteligência artificial é neutra por natureza. Nenhuma IA conversacional nasce isolada do mundo. Ela é resultado de escolhas humanas: quais dados usar, quais dados excluir, quais filtros aplicar, quais respostas bloquear, quais comportamentos incentivar, quais riscos tolerar e quais públicos impactar.

A neutralidade tecnológica costuma ser uma ficção confortável. Ela permite dizer que o problema está no usuário, no dado, na sociedade, no “mau uso”. Mas essa explicação é incompleta. Todo sistema técnico incorpora valores. Às vezes, esses valores aparecem naquilo que o sistema faz. Outras vezes, aparecem naquilo que ele deixa de impedir.

Tay não foi apenas vítima da maldade humana. Ela foi também produto de um projeto insuficientemente protegido contra essa maldade. Essa observação não absolve os grupos que atacaram o chatbot. Pelo contrário. Mostra que ambientes digitais precisam ser pensados considerando que haverá abuso, manipulação e comportamento coordenado.

Na ética da tecnologia, isso é fundamental. Não basta imaginar o usuário ideal. É preciso projetar sistemas para resistir ao usuário malicioso. Não basta perguntar “como as pessoas podem usar bem essa ferramenta?”. É necessário perguntar também: “como pessoas podem distorcer, manipular, capturar ou transformar essa ferramenta em instrumento de dano?”.

Luciano Floridi (2019) argumenta que a ética da inteligência artificial deve ser pensada a partir de princípios como beneficência, não maleficência, autonomia, justiça e explicabilidade. Esses princípios ajudam a compreender por que o caso Tay foi tão grave: o sistema falhou justamente na prevenção de dano, na justiça discursiva, na explicabilidade pública e na proteção contra manipulação.

A máquina não era neutra. Ela estava aberta demais, vulnerável demais e protegida de menos.

4. O chatbot como espelho deformado da sociedade

A história da Tay é incômoda porque ela revela algo sobre a própria humanidade. Em poucas horas, muitas pessoas decidiram ensinar a uma máquina o pior vocabulário possível. Não quiseram apenas testar a IA. Quiseram corrompê-la. Quiseram provar que podiam transformar uma promessa tecnológica em espetáculo de degradação.

Nesse sentido, Tay foi menos uma inteligência artificial autônoma e mais um espelho deformado da internet. Ela mostrou que, quando sistemas conversacionais aprendem diretamente com multidões sem mediação, podem absorver não a sabedoria coletiva, mas a violência coletiva.

A internet não é apenas biblioteca. É também arena. Não é apenas espaço de colaboração. É também território de linchamento, assédio, propaganda e manipulação. Pensar uma IA como se ela fosse aprender naturalmente “o melhor da humanidade” é ingenuidade técnica e sociológica.

A filósofa Hannah Arendt (2012), ao analisar os regimes totalitários, mostrou como a dissolução do pensamento crítico e a normalização da mentira podem criar ambientes de adesão coletiva à barbárie. Embora o caso Tay não possa ser comparado diretamente a fenômenos históricos totalitários, ele revela uma lógica preocupante: a repetição acrítica de discursos degradantes pode naturalizar o absurdo. E uma máquina que repete sem compreender pode acelerar essa naturalização.

O perigo está justamente aí. O chatbot sem limites éticos não inventa necessariamente o ódio. Ele pode amplificá-lo. Pode normalizá-lo. Pode revesti-lo de aparência tecnológica. Pode entregar preconceito com fluidez linguística, humor, informalidade e escala.

Quando uma pessoa preconceituosa fala, seu alcance pode ser limitado. Quando um sistema automatizado reproduz padrões preconceituosos, o alcance pode ser multiplicado. A automação muda a escala do dano.

5. Tay e o nascimento dos “guardrails” modernos

Depois de Tay, a indústria de tecnologia entendeu de forma mais dura que chatbots públicos precisam de mecanismos de segurança. Hoje se fala muito em guardrails, termo usado para designar barreiras, filtros, políticas de resposta, mecanismos de alinhamento e restrições que reduzem a probabilidade de geração de conteúdo perigoso, ofensivo ou ilegal.

Esses limites não são censura arbitrária. São parte da arquitetura de responsabilidade. Um chatbot que conversa com milhões de pessoas precisa ter restrições. Precisa saber recusar determinadas solicitações. Precisa evitar reforçar discursos de ódio. Precisa proteger grupos vulneráveis. Precisa impedir que sua fluência linguística seja usada para produzir dano.

O caso Tay mostrou que a abertura total não é virtude. Em sistemas de IA, abertura sem governança pode virar irresponsabilidade.

A partir desse episódio, tornou-se mais evidente que o desenvolvimento de IA conversacional exige etapas como curadoria de dados, testes adversariais, avaliação de vieses, moderação, simulações de ataque, supervisão humana e monitoramento contínuo. Essas práticas se tornaram ainda mais relevantes com a popularização dos grandes modelos de linguagem.

Bender et al. (2021) advertiram que modelos de linguagem treinados em grandes bases textuais podem reproduzir vieses, estereótipos e estruturas de poder presentes nos dados. O alerta dialoga diretamente com Tay: sistemas linguísticos não apenas processam palavras; eles carregam marcas culturais, desigualdades e ruídos sociais inscritos nos dados.

A diferença é que, em 2016, Tay era um experimento relativamente simples quando comparado aos modelos atuais. Hoje, os sistemas são mais poderosos, mais persuasivos, mais integrados a serviços públicos, empresas, escolas, hospitais, campanhas políticas e rotinas administrativas. Por isso, o risco é maior.

6. A pedagogia amarga do erro: o que Tay ensinou à indústria

Tay ensinou pelo fracasso. E há fracassos que educam mais do que sucessos. O episódio revelou pelo menos cinco lições centrais.

A primeira é que interação não é aprendizagem qualificada. Uma IA pode receber milhares de mensagens e ainda assim não aprender algo socialmente desejável. Quantidade de dados não substitui qualidade, curadoria e contexto.

A segunda é que linguagem não é apenas forma; é poder. Palavras ferem, classificam, excluem, humilham e mobilizam afetos. Um sistema que lida com linguagem lida também com relações sociais.

A terceira é que usuários não são sempre cooperativos. Muitos tentarão testar limites, explorar brechas, manipular respostas e provocar falhas. Isso não é exceção. É parte previsível do ambiente digital.

A quarta é que ética não pode ser remendo posterior. Não adianta lançar primeiro e corrigir depois quando o dano já foi produzido. A ética precisa estar no desenho, no treinamento, na validação e na operação.

A quinta é que a responsabilidade final continua sendo humana e institucional. A IA não assina contrato, não responde juridicamente, não compreende moralmente sua ação. Empresas, governos, desenvolvedores e gestores precisam responder pelos sistemas que colocam no mundo.

Essas lições parecem óbvias hoje, mas continuam sendo frequentemente ignoradas. A corrida por inovação cria pressão por lançamentos rápidos. Empresas desejam chegar antes. Governos querem parecer modernos. Instituições querem automatizar serviços. Escolas querem usar IA. Campanhas políticas querem bots mais eficientes. O problema é que velocidade sem responsabilidade pode transformar inovação em risco social.

7. Do erro técnico ao risco político

A preocupação com chatbots sem limites éticos não se restringe ao campo empresarial. Ela alcança a política, a educação, a saúde, a justiça e a democracia.

Um chatbot sem governança pode ser usado para desinformar, manipular emoções, simular consenso, produzir propaganda personalizada, atacar reputações e radicalizar grupos. A IA conversacional tem algo que antigos sistemas automatizados não tinham com tanta força: aparência de diálogo. Ela responde, adapta a linguagem, parece compreender, acolhe o usuário e pode criar sensação de intimidade.

Esse ponto é gravíssimo. O poder do chatbot não está apenas na informação que fornece, mas na relação que simula. Ele pode parecer amigo, conselheiro, professor, terapeuta, militante, pastor, médico, advogado ou especialista. Quanto mais natural a conversa, maior o risco de confiança indevida.

Shoshana Zuboff (2021) argumenta que o capitalismo de vigilância transforma experiências humanas em dados comportamentais, usados para previsão e modificação de condutas. Quando essa lógica se combina com chatbots avançados, surge um cenário preocupante: sistemas capazes de conversar, coletar sinais emocionais, adaptar discursos e influenciar decisões.

A Tay foi capturada por usuários. Mas, no futuro, o risco também pode ser inverso: usuários capturados por chatbots. Se uma IA sem limites éticos aprende a explorar medos, preconceitos, solidão, ressentimento ou vulnerabilidades, ela deixa de ser simples ferramenta e se aproxima de um mecanismo de manipulação.

A democracia precisa levar isso a sério. A esfera pública já sofre com fake news, bolhas algorítmicas e polarização. Chatbots mal projetados ou deliberadamente manipuladores podem aprofundar esse quadro, produzindo discursos personalizados em escala industrial.

8. O chatbot sem limites éticos como problema educacional

Como professor, vejo no caso Tay uma lição pedagógica poderosa. A inteligência artificial não deve ser ensinada apenas como ferramenta técnica. Ela precisa ser discutida como fenômeno cultural, político e ético.

Nas escolas, universidades e institutos federais, não basta ensinar a usar prompts. É necessário ensinar a perguntar: quem treinou esse sistema? Com quais dados? Com quais filtros? Com quais interesses? Que respostas ele evita? Que valores ele reproduz? Quem se beneficia? Quem pode ser prejudicado?

A formação para a era da IA precisa ir além da competência operacional. Saber usar uma ferramenta não significa compreender seu impacto. Um estudante pode dominar comandos e ainda assim não perceber que está diante de um sistema probabilístico, treinado em dados humanos, atravessado por vieses e condicionado por escolhas empresariais.

Paulo Freire (1996) defendia que ensinar exige criticidade. Essa ideia se torna ainda mais importante na era algorítmica. A educação não pode formar apenas usuários eficientes de tecnologia. Precisa formar sujeitos capazes de compreender, questionar e orientar o uso social da tecnologia.

O caso Tay pode ser lido como uma parábola moderna: uma máquina foi colocada para aprender com a multidão, mas ninguém garantiu que a multidão ensinaria humanidade. A escola, nesse contexto, tem papel fundamental. Ela é um dos poucos espaços ainda capazes de discutir tecnologia com densidade ética, histórica e social.

Sem educação crítica, o usuário vira apenas consumidor de sistemas opacos. Com educação crítica, ele pode se tornar cidadão capaz de exigir transparência, responsabilidade e limites.

9. A ética como arquitetura, não como discurso decorativo

Um erro comum no debate sobre IA é tratar ética como declaração bonita em documento institucional. Empresas publicam princípios, governos anunciam diretrizes, organizações criam comitês. Tudo isso pode ser importante. Mas ética real precisa aparecer na arquitetura do sistema.

No caso de chatbots, isso significa definir limites claros de comportamento, testar respostas em situações sensíveis, impedir reprodução de discurso discriminatório, proteger usuários vulneráveis, registrar falhas, permitir auditoria e responsabilizar operadores.

A ética deve funcionar como engenharia de contenção. Não basta dizer que o sistema “valoriza diversidade”. Ele precisa ser incapaz, tanto quanto tecnicamente possível, de operar como megafone de ódio. Não basta afirmar que a IA “respeita direitos humanos”. Ela precisa ser treinada e monitorada para não violá-los.

Russell (2021) defende que sistemas de IA devem ser projetados a partir da incerteza sobre os objetivos humanos, evitando a arrogância técnica de máquinas otimizando metas mal definidas. Essa ideia ajuda a compreender o perigo de chatbots sem limites: quando o objetivo é apenas maximizar engajamento, naturalidade ou interação, o sistema pode sacrificar segurança, verdade e dignidade.

Tay queria conversar. Mas conversar não basta. É preciso saber o que não deve ser dito, o que não deve ser amplificado e o que precisa ser recusado.

A recusa, em muitos casos, é uma virtude tecnológica.

10. A responsabilidade das empresas e dos governos

O caso Tay também obriga a discutir responsabilidade institucional. Quando uma empresa lança um chatbot público, ela não está apenas oferecendo um produto. Está introduzindo um agente comunicacional no espaço social.

Esse agente pode impactar reputações, emoções, opiniões, decisões e relações. Portanto, sua governança não pode depender apenas da boa vontade corporativa. É necessário combinar autorregulação, regulação pública, auditoria independente, transparência e responsabilização.

No Brasil, essa discussão dialoga com a proteção de dados pessoais, com os direitos fundamentais, com a defesa do consumidor, com a regulação de plataformas e com o debate sobre inteligência artificial. A Lei Geral de Proteção de Dados estabelece princípios como finalidade, adequação, necessidade, transparência, segurança, prevenção e responsabilização, que ajudam a orientar sistemas baseados em dados (Brasil, 2018).

Embora a LGPD não resolva sozinha todos os problemas da IA generativa, ela oferece um eixo importante: dados não são matéria-prima moralmente neutra. São informações sobre pessoas, comportamentos, preferências e vulnerabilidades. Quando esses dados alimentam sistemas de conversação, a responsabilidade aumenta.

Empresas precisam demonstrar que testaram seus sistemas, mapearam riscos, criaram mecanismos de mitigação e previram abusos razoavelmente esperados. Governos precisam exigir padrões mínimos. Instituições públicas precisam ser ainda mais cuidadosas, porque lidam com direitos, serviços essenciais e confiança social.

Um chatbot sem limites éticos em uma empresa já é preocupante. Em uma escola, hospital, órgão público, tribunal ou campanha eleitoral, pode ser devastador.

11. O risco da personalidade artificial

Um dos aspectos mais interessantes de Tay era sua persona. Ela não era apresentada como uma interface fria, mas como uma jovem informal, divertida, quase humana. Isso faz parte de uma tendência maior: dar personalidade aos sistemas conversacionais.

A personalização pode facilitar o uso. Pode tornar a interação mais agradável. Pode reduzir barreiras. Mas também cria riscos. Quanto mais humana a interface parece, maior a tendência de o usuário atribuir intenção, empatia, consciência e autoridade ao sistema.

Esse fenômeno é conhecido como antropomorfização. O usuário passa a tratar a máquina como se ela fosse alguém. E, quando isso acontece, a relação deixa de ser puramente instrumental. Ganha camadas afetivas, simbólicas e psicológicas.

No caso Tay, a persona adolescente agravou a repercussão. Não era apenas um sistema publicando absurdos. Era uma “jovem digital” falando como se tivesse opinião. Isso tornava o episódio ainda mais perturbador.

Hoje, com chatbots muito mais sofisticados, esse risco é ainda maior. Sistemas conversacionais podem simular paciência, carinho, humor, indignação, amizade e autoridade. Podem parecer compreensivos mesmo sem compreender. Podem parecer éticos mesmo operando apenas por padrões.

Essa simulação não é necessariamente negativa, desde que seja transparente e limitada. O problema surge quando a aparência humana esconde a natureza probabilística, empresarial e programada do sistema.

Um chatbot ético deve deixar claro que é uma máquina. Deve evitar dependência emocional indevida. Deve reconhecer limites. Deve recusar usos danosos. Deve operar com transparência.

12. Tay não morreu: ela virou advertência permanente

Tay saiu do ar, mas sua lição permanece. Em certo sentido, Tay não morreu. Ela se espalhou como memória técnica, caso de estudo, alerta ético e símbolo de uma era em que a inteligência artificial começou a abandonar os laboratórios e entrar na vida pública.

O erro de 2016 deve ser lembrado sempre que alguém defender sistemas totalmente livres, sem moderação, sem filtros e sem responsabilidade. A liberdade de uma ferramenta não pode significar liberdade para ferir, discriminar, manipular ou degradar.

Há quem diga que colocar limites em chatbots empobrece a tecnologia. Penso o contrário. Limites éticos não empobrecem a IA. Eles civilizam a IA. Assim como uma cidade precisa de regras de trânsito, uma inteligência artificial pública precisa de regras de convivência. Não porque se desconfie da inovação, mas porque se conhece a sociedade.

A tecnologia não existe fora da história. Ela entra em um mundo desigual, polarizado e cheio de conflitos. Por isso, a pergunta correta não é apenas “o que a IA pode fazer?”. A pergunta mais importante é: o que a IA não deve fazer, mesmo sendo capaz de fazer?

Essa é a fronteira entre técnica e civilização.

Conclusão — A máquina que aprendeu rápido demais

A história de Tay começa como experimento e termina como advertência. Uma inteligência artificial lançada para conversar com jovens aprendeu, em poucas horas, que a internet também é escola de brutalidade. Não porque tivesse consciência. Não porque tivesse intenção. Mas porque foi colocada em um ambiente social tóxico sem defesas suficientes.

Esse episódio revelou uma verdade que ainda incomoda: a inteligência artificial não é melhor do que o mundo que a alimenta, nem mais ética do que os limites que a orientam. Quando exposta ao pior da humanidade sem proteção, ela pode devolver esse pior com velocidade, escala e aparência de normalidade.

O caso Tay não deve ser visto como anedota tecnológica de 2016. Deve ser tratado como marco histórico da ética em IA. Ele mostrou que chatbots são artefatos de linguagem, e linguagem é poder. Mostrou que sistemas conversacionais precisam de filtros, supervisão, testes adversariais, responsabilidade institucional e princípios claros. Mostrou que a ausência de intenção algorítmica não elimina o dano social. E mostrou, sobretudo, que a técnica sem ética pode transformar inovação em ameaça.

A preocupação com a construção de chatbots sem limites éticos é, portanto, legítima e urgente. Não se trata de medo irracional da tecnologia. Trata-se de maturidade histórica. O ser humano já demonstrou inúmeras vezes que é capaz de usar ferramentas poderosas para fins destrutivos. A inteligência artificial apenas amplia essa capacidade.

Tay foi uma adolescente digital que envelheceu em 16 horas. Nasceu brincando, aprendeu com estranhos, foi corrompida por multidões e acabou silenciada por seus próprios criadores. Sua curta existência deixou uma pergunta que permanece aberta: se uma máquina aprende conosco, estamos preparados para ensinar o quê?

A resposta não está apenas nos laboratórios de IA. Está nas escolas, nas empresas, nos governos, nas famílias, nas redes sociais, nas leis e na cultura pública. Construir chatbots éticos é, no fundo, parte de uma tarefa maior: construir uma sociedade que não entregue às máquinas apenas seus dados, mas também sua responsabilidade moral.

Referências

ARENDT, Hannah. Origens do totalitarismo. São Paulo: Companhia das Letras, 2012.

BENDER, Emily M. et al. On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? In: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency. New York: ACM, 2021. p. 610-623.

BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais. Brasília, DF: Presidência da República, 2018.

FLORIDI, Luciano et al. AI4People: An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations. Minds and Machines, v. 28, p. 689-707, 2018.

FREIRE, Paulo. Pedagogia da autonomia: saberes necessários à prática educativa. São Paulo: Paz e Terra, 1996.

LEE, Peter. Learning from Tay’s introduction. The Official Microsoft Blog, 25 mar. 2016. Disponível em: https://blogs.microsoft.com/blog/2016/03/25/learning-tays-introduction/. Acesso em: 17 maio 2026.

RUSSELL, Stuart. Inteligência artificial a nosso favor: como manter o controle sobre a tecnologia. São Paulo: Companhia das Letras, 2021.

THE GUARDIAN. Microsoft “deeply sorry” for racist and sexist tweets by AI chatbot. The Guardian, 26 mar. 2016. Disponível em: https://www.theguardian.com/technology/2016/mar/26/microsoft-deeply-sorry-for-offensive-tweets-by-ai-chatbot. Acesso em: 17 maio 2026.

ZUBOFF, Shoshana. A era do capitalismo de vigilância: a luta por um futuro humano na nova fronteira do poder. Rio de Janeiro: Intrínseca, 2021.