• LOGO_DRAFTERS_NEGATIVO
  • VBT_LOGO_NEGATIVO
  • Logo

Os avatares gerados por inteligência artificial não têm nada de inocentes. Entenda os riscos por trás dos apps que criam imagens de perfil

Marina Gontijo - 4 jan 2023
O avatar da empreendedora Marina Gontijo criado pelo Lensa.
Marina Gontijo - 4 jan 2023
COMPARTILHAR

O número de procedimentos estéticos entre jovens entre 13 e 18 anos cresceu mais de 140% entre 2011 e 2021, de acordo com a Sociedade Brasileira de Cirurgia Plástica.

O principal motivo desse aumento, segundo artigo recente produzido pela Universidade de São Paulo, são as redes sociais e o descontentamento do jovem com a própria imagem. Ele se compara com o mundo e, para se sentir parte dele, precisa seguir a manada. 

O efeito manada é um conceito da psicologia social que explica por qual motivo as pessoas agem conforme o grupo do qual fazem parte de modo automático, quase sem reflexão.

É uma forma de defesa adquirida nos tempos mais remotos quando os seres humanos precisavam reagir rapidamente a uma fuga, por exemplo. Portanto, seguir o grupo na fuga era sinal de proteção. 

O jovem costuma viver o efeito manada de forma recorrente. Isso porque vivem uma fase em que pertencer ao mundo e se sentir aceito é tão importante quanto comer.

A maturidade é o antídoto contra o efeito manada. Assim, quanto mais o jovem amadurece e se percebe único, se sente seguro e confia em si mesmo, mais ele consegue fugir e dizer não a esse movimento.

É DIFÍCIL ESCAPAR DO EFEITO MANADA. EU TAMBÉM VIVI ISSO NA PELE, NO CABELO, EM TODO O CORPO QUANDO ADOLESCENTE…

Em 2016, o efeito manada uniu adolescentes que obrigaram um rival a cavar a própria cova. A vítima de 13 anos sofreu cortes, pancadas e pauladas durante quatro horas em Trindade (GO).

Tantos outros casos parecidos pelo mundo nos mostram como o jovem é influenciado pelo ambiente e como é preciso ter cuidado com o tipo de material que ele está tendo contato.  

Eu vivi isso na pele na minha juventude. Na pele, no cabelo, e em todo o corpo. Sendo mulher, atender a padrões de beleza, infelizmente, era — e ainda é —  a regra

Passei boa parte da minha adolescência fazendo escova e alisando meu cabelo para me sentir parte de algo que eu ainda não sabia o que era.

Custava caro e estragava o meu cabelo. Cresci ouvindo minha mãe e minha madrinha se submetendo ao mesmo desafio.

A minha madrinha conta a história de que, quando jovem, passava o dia com o grampo de prender roupa no nariz para tentar afiná-lo. 

Minha salvação foi que eu nunca gostei de seguir muito as regras do jogo. A minha rebeldia então foi não sucumbir mais ao sistema do cabelo liso.

E imediatamente, ao mudar de escola no Ensino Médio, vi a oportunidade de começar a contar a minha história. A da Marina com cachos.

O MERCADO SE APROVEITA DA EXIGÊNCIA QUE A SOCIEDADE FAZ DAS MULHERES DE UM PADRÃO DE BELEZA INATINGÍVEL

Mulheres e meninas especialmente se veem obrigadas a seguirem padrões de beleza muitas vezes inalcançáveis. Estar “na moda” custa caro e causa danos muitas vezes irreparáveis. Tudo isso para se sentir parte de algo que criaram para elas. Para nós.  

O mercado se aproveita e capricha nas propagandas, nas mensagens subliminares e ninguém sai ileso. Nem as crianças.

Desenhos, filmes e livros infantis estão recheados de estereótipos. Muito recentemente apenas, estamos vendo personagens que valorizam a diversidade e começam a trazer representatividade para as narrativas

Mas é nas redes sociais em que o perigo maior mora. Sem regras, bom senso e repleta de “efeitos manada”, essas redes não perdoam.

A regra é clara. Os filtros mais usados são aqueles que desaparecem com as manchas na pele, afinam o rosto e deixam todos — principalmente todas — com a mesma cara.

QUAL O VERDADEIRO IMPACTO DO LENSA COM SEUS AVATARES “REALISTAS” E SEXUALIZADOS?

Mais recentemente um app andou chamando a atenção das pessoas e viralizou em nas redes sociais.

Marina Gontijo, fundadora da Ways Education.

Com a promessa de criar diferentes avatares do usuário utilizando inteligência artificial, a aplicação Lensa saiu de menos de 1 milhão de downloads em outubro de 2022 para mais de 5 milhões em 8 de dezembro de 2022.

A IA do app se baseia no sistema Stable Diffusion, que faz parte de um grupo de sistemas generativos que parecem ser a grande tendência de aplicativos em 2023. 

O modelo de texto para imagem é de código aberto, o que significa que o Lensa pode usá-lo sem ter que pagar por uma licença.

Nem todo mundo está feliz com os resultados. De um lado, vários artistas reclamaram no Twitter e em outras plataformas sociais que o aplicativo está usando obras de arte roubadas para criar os avatares, com algumas imagens geradas ainda mostrando a assinatura original do artista

Do outro, diversos usuários, principalmente mulheres, questionaram o resultado de seus avatares que transformaram todas em ninfas, guerreiras, animes etc., sempre com aquela pegada sexualizada

Não bastasse isso, narizes afilados, olhos claros, cabelos alisados e pele clara. Além disso, registros da criação de imagens insinuando nudez a partir dos dados recebidos pelo app foram encontrados. 

O que essa IA está nos ensinando com isso? Nós adultos, ainda conseguimos fazer uma análise crítica e questionar esses pontos, mas, e o jovem?

Qual o efeito que essas aplicações e os filtros presentes nas redes sociais trazem para a vida desses usuários? 

O USO DAS REDES, O COMPARTILHAMENTO DE DADOS E A EFEMERIDADE DO MUNDO VIRTUAL DEVERIAM VIRAR DISCIPLINA ESCOLAR

Em 2020 o documentário Coded Bias trouxe reflexão semelhante, a de que há vieses na Inteligência Artificial.

A doutora Joy Buolamwini, pesquisadora do MIT Media Lab, descobre que o reconhecimento facial não vê rostos de pele escura com precisão, então embarca em uma jornada para promover a primeira legislação dos EUA contra preconceito em algoritmos que afetam a todos nós.

É muito importante pensar como esse tipo de aplicação e de inteligência de máquina podem ser poderosas na construção de toda uma sociedade.

De forma aparentemente leviana, em troca dos seus dados e imagem, usuários ganham novas fotos para compartilharem em seus perfis, mas também ganham a dúvida de quem realmente são

Mulheres e crianças, mais uma vez, se veem fadadas ao sistema patriarcal, em que seus corpos estão a serviço do homem.

Foi esse o recado que essa “inteligência” trouxe. Há uma intencionalidade sexual por trás dela.

Eu me senti completamente desfigurada na maioria dos avatares. Meus cabelos, cujo orgulho foi conquistado a duras penas, perderam os cachos… Meu nariz afinou e ganhei seios enormes dos quais eu não gostei. Fazendo o trocadilho, não achei nada de inteligência ali. 

Cada vez mais, torna-se urgente que essas discussões cheguem às escolas e coloquem crianças e jovens a problematizar a tecnologia.

Não há nada de inocente ali, e eles precisam saber disso. Deveria inclusive existir uma disciplina dedicada a abranger temas como o perigo das redes, do compartilhamento de dados e do quão efêmero e irreal é o mundo virtual. 

Mas dá pra começar em casa. Para ontem. 

 

Marina Gontijo é mãe de dois, mestre em Educação e empreendedora. Fundou a Ways Education, uma startup que ajuda crianças e adolescentes a descobrirem seus talentos através de atividades fora da caixinha (a Ways foi pauta aqui no Draft).   

COMPARTILHAR

Confira Também: