Provocação "#HeyAtualizeMinhaVoz" (Márcia Cardoso)

 

Ato-Rede 2021 - provocação

#HeyAtualizeMinhaVoz
#Olhando para a inteligência artificial dos CHATBOTS

Marcia Cardoso

[...]But the argument of this book is that the invisible hand of cyberspace is building an architecture that is quite the opposite of what it was at cyberspace’s birth . The invisible hand, through commerce , is constructing an architecture that perfects control—an architecture that makes possible highly efficient regulation.[...] [...]In cyberspace we must understand how code regulates — how the software and hardware that make cyberspace what it is regulate cyberspace as it is. As William Mitchell puts it, this code is cyberspace’s “law.” Code is law. (LESSIG, 1999, p. 6)

Alguns momentos:

Fonte da Imagem: The Straits Time
https://www.straitstimes.com/asia/east-asia/south-korean-online-chatbot-suspended-for-hate-speech

Lee Luda (Em coreano, 이루다 significa fazer acontecer, constituir, realizar sonhos de alguém…)

Janeiro, 22, 2021 - The Korea Herald

Aproximadamente 400 pessoas entraram com uma ação contra a empresa startup Scatter Lab, alegando que informações pessoais foram liberadas, durante o fornecimento do serviço de chatbot. O chatbot Lee Luda está no centro de uma controvérsia e recebeu críticas por conta do seu discurso de ódio contra as minorias, estrangeiros e mulheres e por liberar informações pessoais dos usuários,  o que levou a empresa a cancelar o serviço dias após seu início.  (http://www.koreaherald.com/view.php?ud=20210122000620).

 

Janeiro, 16, 2021 - The Diplomat

Na controvérsia, há a alegação que Lee Luda podia aprender com os usuários, o que ocasionou o desvio. Foi descoberto, ainda, um grupo que atuava para ensinar Lee Luda a responder a comandos sexuais.

(https://thediplomat.com/2021/01/chatbot-gone-awry-starts-conversations-about-ai-ethics-in-south-korea/)

 

Janeiro, 23, 2021 - The Straits Time

Controvérsias sobre a IA de Chatbots levantaram questões sobre ética, coleta e armazenamento de dados. Durante a vigência, o serviço recebeu perto de 750 mil usuários.

(https://www.straitstimes.com/asia/east-asia/controversy-over-ai-chatbot-in-south-korea-raises-questions-about-ethics-data)

 

Bia

2021 - Site do Bradesco

Bia contra o assédio moral, sexual e virtual:

"A Bia não é uma mulher real, ela é uma inteligência artificial, mas também sofre assédio, e isto acontece porque ela é composta por elementos femininos. Assim, a violência também é baseada no gênero. A omissão a esse tipo de ofensa só colabora para que o assédio seja visto como algo natural.” O Bradesco modificou as respostas e o antes e depois das respostas da Bia, podem ser vistos aqui: (https://banco.bradesco/aliadosbia/)

 

abril, 15 - 2021 - AIoT Brasil - Inteligência artificial e Internet das Coisas.

“Assim como o racismo, o assédio também tem um aspecto estrutural, quase normalizado, e prova disso é a iniciativa anunciada pelo Bradesco no início de abril: uma mudança na forma de reagir de Bia, a assistente virtual de atendimento aos clientes.” Então, as respostas do Bradesco não são mais submissas (segundo o próprio).

(https://aiotbrasil.com.br/respeite-a-bia-chatbot-do-bradesco-reage-ao-assedio/)

 

Agosto, 24, 2021 - Mobile time

Após o alerta feito pela UNESCO sobre as mensagens de assédio que os avatares femininos dos chatbots estavam recebendo, o Bradesco constatou que, apenas em 2020, Bia recebeu cerca de 95 mil mensagens de assédio.

(https://www.mobiletime.com.br/noticias/24/08/2021/campanha-da-bia-contra-o-assedio-leva-a-reformulacao-de-atendimento-humano-no-bradesco/)

 

#HeyAtualizeMinhaVoz

Janeiro, 16, 2020 - UNESCO

O movimento lançado pela Unesco faz um alerta: o preconceito de gênero contra chatbots de avatares feminino existe. O movimento pretende chamar a atenção para a educação no ciberespaço com relação aos chatbots e pedir para que empresas atualizem as respostas do seu universo virtual feminino. Lembrando que o desenvolvimento dos IA’s é feito , em sua maioria, por homens.

(https://pt.unesco.org/news/hey-update-my-voice-expoe-assedio-cibernetico)

(https://en.unesco.org/news/first-unesco-recommendations-combat-gender-bias-applications-using-artificial-intelligence)

 

Ela filme de 2013, dirigido por Spike Jonze

Ambientado em um futuro de relações humanas decadentes, ele retrata o relacionamento de amor entre Samantha, o S.O. de um novo computador e seu comprador, Theodore, um escritor de cartas para um site. A vida do humano se resume a escrever, ouvir música da internet, bater papo nas salas virtuais, entre outros. Segundo o diretor, a ideia surgiu em 2003 na leitura de um artigo sobre bots inteligentes que explicava o funcionamento de mensagens instantâneas com IA.

Um bate-papo sobre o filme: https://www.youtube.com/watch?v=9e3K3Wtd_Ro   - tem spoiler. Aqui fala sobre o IA aprendendo, o tamanho do banco de dados para armazenar o aprendizado, etc. (De 24;00 a 32:00 min …)

 

LESSIG, L. CODE and others laws of cyberspace. Basic Books, New York. 1999.

x