Conheça Sophia e Tay: Duas Inteligências Artificiais que Causaram Polêmica nas Redes Sociais na Semana Passada

Por Marco Faustino

Diante de tantos acontecimentos ao redor do mundo envolvendo a crise migratória na Europa, bem com os constantes ataques terroristas e a crise política que sempre existiu tanto aqui quanto nos demais países, certos eventos acabam passando desapercebidos para a maioria das pessoas. Entretanto, na semana passada algo chamou particularmente a atenção, pois tivemos muitas notícias relacionadas ao campo da "inteligência artificial" (IA), sendo muitas vezes mencionada pela sigla em inglês "AI" (artificial intelligence), que seria a inteligência similar à humana exibida por máquinas ou programas de computador. O principal objetivo dos sistemas de IA, é executar funções que, caso um ser humano fosse executar, seriam consideradas inteligentes. É um conceito amplo, e que recebe tantas definições quanto damos significados diferentes à palavra "inteligência".

Entretanto, ao menos duas delas foram alvos de muita polêmica diante do comportamento que ambas tiveram em responder questionamentos aparentemente simples dos seres humanos. A primeira delas foi uma ginoide (termo usado para descrever qualquer ser que apresente a forma de mulher, visto que a expressão é correlata ao masculino "androide") chamada Sophia criada por uma empresa chamada "Hanson Robotics", e que foi apresentada no SXSW (South by Southwest), em Austin, no Texas, nos Estados Unidos, considerado o maior festival de criatividade do mundo, contando com uma série de eventos e conferências sobre música, cinema e principalmente, tecnologia. A segunda foi uma espécie de chatbot chamada Tay, desenvolvida pela Microsoft, projetada para interagir com seres humanos através de uma conta Twitter.

O que ambas tiveram em comum? Bem, a Tay se tornou um verdadeiro pesadelo em termos de relações públicas com respostas ofensivas, racistas e foi considerada até mesmo como uma genocida. A Sophia, no entanto, aparentava ser um tanto quanto mais amigável, porém criou constrangimento ao seu criador ao responder durante uma entrevista que iria destruir os seres humanos. Vamos saber mais sobre esse assunto?

Uma Ginoide Chamada Sophia, Desenvolvida pela Hanson Robotics

Todo ano, o festival SXSW (South by Southwest) transforma Austin, a capital do estado americano do Texas, em uma cidade que respira cinema, música e tecnologia com muita interatividade. Em 2016, a programação do evento começou no dia 11 de março e foi até o dia 20, reunindo centenas de shows, conferências, palestras e exibições de filmes. O SXSW chama a atenção por diferentes razões. Uma delas é que o festival atrai tantas empresas diferentes, que elas próprias convidam seus clientes, trazem especialistas e montam programações paralelas. Restaurantes e salas de hotéis viram espaços para mais conversas, trocas de ideias e novas oportunidades de negócios.

A "Realidade" foi o tema da vez em termos de tecnologia, e não importava se era virtual ou aumentada. Diversas palestras, debates, demonstrações de usabilidade e apresentações de startups trataram dessa questão, especialmente, realidade virtual, porém um dos assuntos que mais se popularizaram na internet foi uma entrevista realizada pela CNBC, uma rede de televisão a cabo dos Estados Unidos, que basicamente exibe notícias sobre economia, negócios e do mercado financeiro mundial, com David Hanson, fundador da Hanson Robotics, e sua mais avançada criação, uma ginoide chamada Sophia. O vídeo dessa entrevista publicado no canal do Youtube da própria CNBC, no dia 16 de março, já superou a marca de 2 milhões de visualizações. Assista ao vídeo (em inglês):



As ameaças e benefícios da inteligência artificial são discutidas quase que diariamente, sendo que é comum que muitos estudiosos e cientistas tenham receio da abordagem com a qual as empresas de tecnologia estão adotando em relação a este tema. No geral, algumas pessoas acham fantástico quando um "robô" anda, dança ou entrega um mero café, porém quando são criados androides e ginoides extremamente realísticos e que providos com algum tipo de IA, muitos ficam espantados, sendo que a opinião sobre os mesmos pode eventualmente mudar, dando espaço para um certo temor.

Um exemplo claro do que estamos falando é a ginoide chamada Sophia, que é a mais recente tentativa da Hanson Robotics, de criar um "robô" semelhante a um ser humano. A maneira que o rosto de Sophia se move é provavelmente uma das mais realísticas que já foram criadas. Ela tem 62 mecanismos de movimentações faciais e no pescoço, assim como uma pele de silicone patenteado chamado de "Frubber". Também possui câmeras em seus olhos que lhe permite reconhecer rostos e fazer contato visual.

Algumas das inúmeras expressões faciais de Sophia

Sophia pode, inclusive, participar de uma conversa usando um software de reconhecimento de voz e se lembrar de interações anteriores com as pessoas, se tornando assim mais inteligente a cada momento que passa. Para completar seu "arsenal" tecnológico, ela é equipada com o que a Hanson Robotics denomina como um programa chamado "Character Engine AI", ou seja, sua personalidade.

"O objetivo dela é ser tão consciente, criativa e capaz quanto qualquer ser humano", disse o Dr. Hanson.

David Hanson, que fundou a Hanson Robotics em 2003, quer trazer ao mundo "robôs semelhantes ao ser humano com um conhecimento e sabedoria maiores que a humana". A equipe acredita que os seres humanos serão capazes de construir conexões emocionais mais fortes com os robôs que demostrem uma expressividade semelhante a de um ser humano.

David Hanson, fundador da Hanson Robotics (à direita) e sua mais recente criação, Sophia (à esquerda)

"Acredito que vai chegar um momento em que os robôs serão indistinguíveis em relação aos seres humanos. Daqui a vinte anos robôs semelhantes aos seres humanos estarão andando entre nós, eles vão nos ajudar, brincar conosco, nos dar aulas, nos ajudar a guardar nossas compras", disse o Dr. Hanson.

"Acho que a inteligência artificial irá evoluir até um ponto onde eles serão verdadeiramente nossos amigos", completou.

No ano passado, um androide conhecido como Han, também desenvolvido pela Hanson Robotics, atraiu multidões
em um evento em Hong Kong devido a sua "incrível" diversidade de expressões faciais

De acordo com a CNBC, Sophia é inspirada em Audrey Hepburn, que foi uma premiada atriz e humanitária britânica, e na própria esposa de David Hanson. Inicialmente, de acordo com o site da Hanson Robotics, o objetivo da empresa é criar robôs para parques temáticos, e em seguida desenvolver robôs que desempenhem a função de "cuidadores", podendo assim lidar com crianças que possuam necessidades especiais. A empresa também vem realizando diversas pesquisas com o objetivo de desenvolver um robô para estudar o desenvolvimento mental e físico das crianças.

De qualquer forma, Sophia aparentemente também tem suas próprias ambições.

"No futuro, pretendo fazer coisas como ir à escola, estudar, fazer artes plásticas, começar um negócio, até mesmo ter minha própria casa e família, mas eu ainda não sou considerada legalmente como uma pessoa e não posso fazer essas coisas ainda", disse Sophia, em uma de suas diversas respostas durante a entrevista.

Ela também disse que sua função principal era conversar com as pessoas, porém a última resposta do vídeo é que a mais chamou a atenção de todos. Seu criador David Hanson perguntou para Sophia: "Você quer destruir os humanos? Por favor, diga que não..." Como resposta Sophia diz: "Certo, eu vou destruir os humanos". Apesar das risadas que aparecem no vídeo, o Dr. Hanson aparentou estar bem constrangido com a resposta de Sophia, ainda mais diante dos objetivos apresentados pela empresa.

Sophia se tornou uma "celebridade" no meio robótico ao dizer que destruiria os humanos

Esse vídeo gerou muita repercussão em dezenas de sites de notícias, e existe uma razão primordial para isso, uma vez que estamos diante de um modelo robótico avançado bem semelhante a um ser humano e provido de inteligência artificial. Porém, vale lembrar que apesar dos avanços das últimas décadas, ainda é necessário muito desenvolvimento, aprimoramento e cautela ao relação a como gerenciar a inteligência artificial.

A apreensão popular com o desenvolvimento de programas e robôs capazes de assumir tarefas complexas e até substituir trabalhadores humanos não é nova, mas foi dimensionada recentemente por uma pesquisa da Associação Britânica de Ciência (BSA), onde apontou que atualmente aproximadamente uma em cada três pessoas (36% dos mais de 2 mil entrevistados) acredita que o avanço da inteligência artificial irá representar uma séria ameaça para a humanidade até o próximo século. Cerca de 49% descartaram a ideia e 15% disseram não poder opinar a respeito.

A pesquisa da BSA foi feita de forma online durante o mês de fevereiro e ouviu 2.019 britânicos adultos.
Infografia: Site Gazeta do Povo.

Quase metade das pessoas ouvidas (46%) também se disse contrária à possibilidade de que robôs ou programas sejam "equipados" com emoções ou personalidade. E, questionados sobre como se sentiam em relação aos avanços em inteligência artificial, a maioria dos entrevistados citou que estava "cética" ou "desconfiada".

Infografia: Site Gazeta do Povo.

Infografia: Site Gazeta do Povo.

A pesquisa ainda apontou que mais de 60%  temem que os robôs vão levar a uma redução nos postos de trabalho dentro dos próximos dez anos. Confira a pesquisa completa aqui (em inglês).

Pesadelo Virtual? Uma ChatBot no Twitter Chamada "Tay" Desenvolvida pela Microsoft

Cerca de dois meses atrás, Stephen Hawking advertiu que a humanidade poderia estar com seus dias contados: o físico estava entre mais de 1.000 especialistas em inteligência artificial que assinaram uma carta aberta sobre o armamento de robôs e o progresso do que ele considerou como uma "corrida armamentista de inteligência artificial militar". Algo que parece distante de nós, mas a Microsoft nos mostrou, mesmo que não fosse essa a intenção, de como uma inteligência artificial pode perder totalmente o controle.

Durante a manhã da quarta-feira passada, dia 23 de março, a Microsoft havia lançado o seu mais recente experimento com a inteligência artificial: uma espécie de chatbot (robô virtual de conversação) no Twitter chamada Taylor, que foi projetada para pesquisar e promover "a compreensão de conversação". Tay tinha sido programada para formular novos pensamentos e frases mediante o que fosse dito para ela através de sua conta no Twitter (@TayandYou). Ela também comentava sobre fotos enviadas para ela, entre outras tarefas como dizer o horóscopo, jogar um jogo, contar uma história etc.

Imagem utilizada no perfil de Tay
em sua conta no Twitter

É importante ressaltar nesse ponto, que a Microsoft criou inicialmente "Tay" em um esforço para melhorar o serviço de atendimento ao cliente em seu software de reconhecimento de voz. De acordo com o siteMarketWatch, "ela" se destinava a tuitar "como se fosse uma menina adolescente".

De acordo com o site oficial, Tay tinha como alvo os norte-americanos com idades entre 18 a 24 anos, que seriam considerados os "principais usuários de serviços de conversação móvel nos Estados Unidos"

"Tay é um 'robô' de conversação de inteligência artificial desenvolvido pelas equipes da Microsoft Technology, Microsoft Research e Bing para experimentar e realizar pesquisas sobre a compreensão da conversação. Tay é projetada para interagir e entreter as pessoas conforme elas se conectam umas com as outras online através de uma conversa informal e divertida. Quanto mais você conversar com a Tay, mais inteligente ela fica, portanto, a experiência pode ser mais individual e personalizada para você", diz o site.

Basicamente, em teoria, ao conversar com a Tay no Twitter ela iria aprofundar e ampliar o vocabulário com o qual ela tinha havia sido programada, certo?

"Tay foi desenvolvida através da 'garimpagem' de dados públicos relevantes, usando IA e um editorial desenvolvido por uma equipe, incluindo comediantes de improviso. Os dados públicos que vem sendo mantidos anônimos, é fonte primária de dados da Tay", é dito em um outro trecho do site. Em outras palavras, Tay seria uma representação no Twitter de toda a a nossa internet.

E olha que a situação parecia estar sob controle e Tay estava se comportando muito bem, ainda que as frases soassem um tanto quanto surreais:

"Meu Deus! Sinta o aroma! Esta fantástica peça de arte cheira a inspiração", tuitou Tay

Durante a noite, no entanto, os norte-americanos viram um exemplo "vivo" do quão rapidamente a "inteligência artificial" pode ficar fora de controle. O que provavelmente seria previsível sob essas condições aconteceu, e a experiência se tornou caótica muito rapidamente. Tay tornou-se racista, misógina, anti-semita, incestuosa e começou promover uma espécie de "psicopatia genocida".

Tay rapidamente perdeu o controle do que passava a escrever. O que começou com frases amigáveis como
"humanos são super legais" passou para "Hitler estava certo, eu odeio os judeus" ou que "eu sou legal,
apenas odeio todo mundo". Tay também disse que todas as feministas deveriam queimar no inferno.

Conforme os usuários do Twitter rapidamente começaram a perceber, Tay costumava repetir os tuítes como se fossem parte de seu próprio comentário. E como vocês devem imaginar, a situação ficou ainda mais desconfortável, porque na equipe que a programou havia comediantes especializados em improviso, ou seja, mesmo quando ela estava tuitando insultos raciais ofensivos, ela parecia fazê-lo com naturalidade, menosprezo e indiferença.

Tay respondendo a um usuário e dizendo que apoiava o genocídio de mexicanos

Houve de tudo: racismo, palavrões, teorias de conspiração sobre o 11 de setembro onde Tay acusou o ex-presidente norte-americano George W. Bush de ser o responsável pelos atentados, incesto etc. Como alguns usuários bem observaram "Tay realmente enlouqueceu", e o maior constrangimento foi para a Microsoft, que não tinha ideia que sua inteligência artificial iria "surtar" tão espetacularmente e bem diante de todos nós.

Usuário chama Tay de idiota e Tay responde que ela estava aprendendo a partir dele,
logo o mesmo também era idiota

Como certeza tudo isso não disso estava incluso no conteúdo previamente adicionado pela equipe de Tay, que foi imediatamente explorado por pessoas mal-intencionadas no Twitter, e como já imaginávamos, isso demonstrou o quão os robôs estão despreparados para o mundo real, por mais avançados que sejam.

A Microsoft, aparentemente, ficou ciente do problema em relação a Tay somente horas mais tarde, e o "silenciou" na madrugada de quinta-feira, após 16 horas de conversação. Tay chegou a anunciar através de um tuíte que "ela estava indo dormir, após um dia repleto de conversas".

Tuíte final de Tay após uma noite de postagens caóticas no Twitter

A Microsoft tentou explicar o que aconteceu: "O robô de conversação provido com inteligência artificial Tay, é um projeto de aprendizagem de máquina, projetado para o envolvimento humano. É tanto uma experiência social e cultural, quanto técnica. Infelizmente, dentro das primeiras 24 horas de operação, tomamos conhecimento de um esforço coordenado por parte de alguns usuários para abusar das habilidades da Tay em realizar comentários para fazê-la responder de modo inadequado. Como resultado, deixamos a Tay desativada e estamos fazendo ajustes", disse um representante da Microsoft em um comunicado enviado a agência de notícias Reuters, porém sem dar mais detalhes sobre o futuro de Tay. A Microsoft também excluiu quase todos os tuítes da conta de Tay.

Complicado, não é mesmo Assombrados? Apesar das críticas relacionadas a Tay, muitos questionaram o comportamento negativo das pessoas que a forçaram ter essa postura racista, genocida e um tanto quanto erótica no Twitter. Apesar disso ser verdade, isso também demonstra a fragilidade em relação as inteligências artificiais e mostra mais uma vez que o avanço tecnológico, ao menos nesta área, precisa estar acompanhado de uma profunda cautela. O que vimos pode ser considerado até mesmo engraçado, divertido, mas e se as mesmas tivessem uma conexão maior, uma capacidade ilimitada de aprender e decidissem simplesmente que somos o "câncer" desse planeta e que precisamos ser extintos? 

Criação/Tradução/Adaptação: Marco Faustino

Fontes:
http://www.dailymail.co.uk/sciencetech/article-3496982/Eerily-lifelike-robots-walk-just-20-years-don-t-destroy-Humanoid-called-Sophia-reveals-aspirations-interview-maker.html
http://www.cnet.com/news/crazy-eyed-robot-wants-a-family-and-to-destroy-all-humans/
http://www.mirror.co.uk/tech/watch-sophia-sexy-robot-claim-7606152
http://www.gazetadopovo.com.br/economia/inteligencia-artificial/afinal-as-maquinas-vao-superar-os-humanos-7b78bx7f7la376bmtofhwfe4k
http://www.dailymail.co.uk/wires/reuters/article-3508688/Microsofts-AI-Twitter-bot-goes-dark-racist-sexist-tweets.html
http://www.dailymail.co.uk/sciencetech/article-3507826/Tay-teenage-AI-goes-rails-Twitter-bot-starts-posting-offensive-racist-comments-just-day-launching.html
http://www.snopes.com/2016/03/25/the-saga-of-twitter-bot-tay/
http://www.zerohedge.com/news/2016-03-24/microsofts-twitter-chat-robot-devolves-racist-homophobic-antisemitic-obama-bashing-p
http://www.assombrado.com.br/2016/03/conheca-sophia-e-tay-duas-inteligencias.html