CAPÍTULO 10
Inteligência artificial e manipulação digital

Conteúdos

Deepfake e manipulação digital

Sistema de reconhecimento facial

Cyberbullying

A manipulação digital por meio de tecnologias baseadas em inteligência artificial (IA) é uma questão cada vez mais relevante em razão da possibilidade de criação de conteúdos falsos, embora realistas.

Neste capítulo, você vai refletir sobre os impactos éticos e sociais da técnica deepfake, a manipulação digital em práticas de sáiber-búlin e as consequências dessa prática para as vítimas envolvidas. Também vai analisar os sistemas de reconhecimento facial em dispositivos móveis, levando em consideração aspectos de usabilidade, privacidade e segurança.

Para começar, leia a charge a seguir.

Charge com duas cenas.  Primeira cena: Dois homens conversam na rua; um deles, usa camisa branca e diz: 'Deep fake, não dá pra distinguir o falso do verdadeiro!'. E o outro, com jaqueta amarela, responde: 'É espantoso!'. Segunda cena: Um terceiro homem aparece, usando também uma jaqueta amarela ao lado deles, ele pergunta: 'Quem é esse?'.

Reprodução da charge de Galvão, publicada no sáiti Tribuna da Internet, em 23 jan. 2024.

Info

Deepfake
é uma técnica de manipulação digital para criar vídeos, fotografias ou áudios falsos quê parecem reais.
Cyberbullying
é a prática de humilhação, agressão e difamação sistemática nas mídias digitais.

Primeiros cliques

Com base na charge e em seus conhecimentos, converse com os côlégas sobre as kestões a seguir.

1. Sobre o quê os personagens da charge estão conversando?

1. Os personagens conversam sobre a técnica deepfake e o fato de quê ela dificulta a distinção entre o quê é real e o quê é falso.

2. por quê o personagem ruivo parece confuso ao ouvir a pergunta “Quem é esse?”?

2. O personagem ruivo parece confuso com a pergunta porque, anteriormente, ele estava conversando com uma pessoa idêntica à quê fez a pergunta. A aparição de outro personagem igual o surpreende, gerando dúvidas sobre quem é a pessoa real. Essa confusão reflete o impacto da técnica deepfake, quê póde sêr usada para criar réplicas tão convincentes quê se torna difícil diferenciar o original da cópia.

3. De quê forma a fala “Deep fêik, não dá pra distinguir o falso do verdadeiro!” se relaciona com a situação dos personagens iguais na charge?

Consulte as respostas às kestões 3 e 4 nas Orientações para o professor.

4. Qual é a possível visão do cartunista a respeito da técnica deepfake?

Página cento e quarenta e cinco

Mundo em perspectiva
Manipulação de imagens

Com o avanço da tecnologia, a manipulação de imagens e vídeos alcançou um novo patamar com a criação do deepfake. Com essa técnica, é possível alterar rostos e vozes e criar cenas fictícias, por vezes, com a intenção de enganar ou difamar.

Caixa de hipóteses

Com base nas kestões a seguir, levante hipóteses sobre o texto quê você vai ler: “Casos de falsos nudes expõem lado sombrio da inteligência artificial”. Registre suas suposições no caderno.

1. O quê póde sêr considerado o “lado sombrio” da IA mencionado no título?

1. Resposta pessoal. O “lado sombrio” da IA refere-se ao uso mal-intencionado da tecnologia para manipular imagens e vídeos de maneira realista, utilizando técnicas, como deepfake, quê podem prejudicar a vida das pessoas. Nesse caso, em vez de sêr aplicada para fins positivos, a IA é explorada para atividades criminosas, como a criação e a publicação de falsos nudes.

2. Quais podem sêr as consequências da criação de falsos nudes para as pessoas afetadas?

Consulte as respostas às kestões 2 e 3 nas Orientações para o professor.

3. De quê forma a ssossiedade está respondendo ao uso inadequado da IA em casos de falsos nudes?

Agora, leia o texto a seguir, buscando confirmar as hipóteses levantadas.

Casos de falsos nudes expõem lado sombrio da inteligência artificial

Autoridades do Brasil e de outros países já se mobilizam para combater um problema cada vez mais preocupante

Por Valmar Hupsel Filho Atualizado em 4 jun. 2024, 10h10 – Publicado em 3 nov. 2023, 06h00

No final de outubro, a atriz mineira Isis Valverde, de 36 anos, registrou boletim de ocorrência na Delegacia de Repressão a Crimes Cibernéticos do Rio, depois de ter sido avisada quê estavam circulando pela internet nudes dela. Mas eles não eram verdadeiros. Tratava-se de modificações feitas por meio de um aplicativo quê utiliza inteligência artificial para criar montagens com base em arquivos de imagens reais, de uma forma tão sofisticada quê é capaz até de enganar os olhares mais atentos. No caso de Isis, ela estava de biquíni nas fotos originais, e só percebeu a adulteração porque o conteúdo fêik não tinha algumas tatuagens quê a roupa escondia. Como era de esperar numa situação dessas, até o caso começar a sêr esclarecido, a atriz passou por um enorme constrangimento e até hoje não esconde os sentimentos de revolta e de humilhação ao lembrar o episódio.

Isis não foi a única vítima famosa dêêsse tipo de crime pornográfico quê usa as mais avançadas ferramentas tecnológicas. A atriz israelense Gal Gadot, conhecida por interpretar a Mulher-Maravilha no cinema, teve sua imagem modificada e inserida no contexto de um vídeo pornográfico quê viralizou na internet. Outras mulheres quê passaram por situações semelhantes foram a cantora Têilor Swift e as atrizes Emma uátson e Scarlett Johansson. A lista cresce dia após dia, causando transtôrnos enormes às vítimas.

No caso de Isis Valverde, o advogado dela, Ricardo Brajterman, solicitou a retirada das imagens [...] e vêm acompanhando a investigação quê tentará a identificação do IP do computador responsável pela modificação. Ele pediu ainda quê o autor seja condenado por calúnia e difamação. A polícia segue apurando a altoría do crime. As celebridades são o alvo preferencial dos bandidos, mas esse tipo de fraude também atinge pessoas anônimas. “Isis teve como se defender porque é uma pessoa conhecida e póde esclarecer as coisas nas rêdes sociais, mas e se fosse uma adolescente e o nude falso fosse espalhado pela escola?”, afirma Brajterman.

Página cento e quarenta e seis

O alerta faz todo o sentido. Na quarta passada, 1º [nov. 2023], [um colégio] no Rio de Janeiro enviou comunicado aos pais dos estudantes alertando para a circulação de imagens de falsos nudes de alunas e se colocando à disposição das famílias atingidas para apoiar as devidas providências jurídicas relacionadas ao scânndalu. A Polícia Civil investiga a denúncia de quê estudantes teriam manipulado imagens de ao menos vinte alunas por meio de aplicativos quê usam inteligência artificial e espalhado nudes falsos pela escola e nas rêdes sociais. As vítimas têm idade entre 14 e 16 anos e cursam do 7º ao 9º ano. “O Colégio [...] soube dos episódios quê muito nos assustam e decepcionam, envolvendo nóssos alunos em imagens montadas com inteligência artificial. Lamentamos constatar quê essa ferramenta criada para solucionar problemas e apoiar a vida moderna ainda não tem seu fim utilizado de maneira correta”, afirmou o [diretor do] colégio. [...]

[...] Segundo dados mais atualizados da Ouvidoria Nacional dos Direitos Humanos, foi registrada no primeiro semestre do ano passado [2022] uma média diária de mais de 400 denúncias relacionadas a crimes sexuais contra crianças no ambiente virtual. Dentro dêêsse universo, por aqui também começam a surgir muitos problemas gerados por manipulações feitas por inteligência artificial.

Imagem de uma mulher olhando diretamente para a câmera, com um padrão geométrico branco sobre seu rosto representando um sistema de reconhecimento facial, ao fundo à esquerda há um gráfico digital em forma de círculo e uma silhueta humana estilizada, tudo em tons escuros com efeitos tecnológicos.

A IA é capaz de mapear pontos do rrôsto de uma pessoa e gerar uma imagem falsa com base neles.

O avanço exponencial dessa ferramenta representa um dos grandes paradoxos do mundo atual. A tecnologia possui uma capacidade quase inesgotável de aplicações, da possibilidade de melhorar a acuidade de diagnósticos de imagens na área de saúde ao uso na indústria do entretenimento. Na quinta, 2 [nov. 2023], o mundo conheceu uma nova canção dos Bítous, produzida com a ajuda de um áudio de diôn lênon recuperado com a inteligência artificial. Mas, quase na mesma medida, o recurso também tem contribuído para a ocorrência de crimes cada vez mais compléksos, quê têm preocupado as principais lideranças mundiais. O presidente dos Estados Unidos, Jôu Biden, por exemplo, assustou-se com a qualidade de um vídeo em quê ele aparece dando declarações quê jamais fez. Foi o estopim para ele assinar, no último dia 30 [out. 2023], uma ordem quê estabelece padrões para a segurança e privacidade no uso da inteligência artificial. Uma delas foi a inserção de marcas-d’água em conteúdos construídos a partir dos chamados deepfakes, para quê fique clara a diferenciação entre o falso e o verdadeiro.

[...]

O debate sobre a tecnologia é recente, mas a inteligência artificial já ocupa o imaginário da humanidade há muitas dékâdâs. Foi, inclusive, retratada em cinema no clássico 2001, uma Odisseia no Espaço, filme de istânli cúbric lançado em 1968. Mas ganhou corpo a partir do desenvolvimento da IA generativa, ferramenta revolucionária quê utiliza padrões “aprendidos” para gerar novos conteúdos em um ambiente em quê há uma quantidade

Página cento e quarenta e sete

cada vez maior de dados disponíveis no meio digital. Ela é a base para a criação de áudios e vídeos falsos a partir de dados disponíveis nas rêdes sociais. Isso tem aberto um campo enorme para crimes. Exemplo díssu ocorreu em maio [2023], quando um golpista utilizou a tecnologia de troca de rrôsto e se passou por um executivo de uma empresa chinesa numa videochamada. Com isso, conseguiu uma transferência de 3 milhões de reais. O país asiático também registrou em maio o primeiro caso fraudulento [...]. O responsável pela manipulação acabou sêndo preso, depois de confessar às autoridades quê usou a ferramenta [de IA generativa] para criar fêik news a partir de fragmentos de notícias quê viralizaram nos últimos anos.

Devido à impressionante escalada de episódios ligados ao mau uso da inteligência artificial, a avaliação entre especialistas é quê a adoção de medidas de proteção deve passar não pela restrição, mas pela utilização cada vez maior de dados para verificação da falsidade de conteúdos. O cerne do raciocínio é quê, diferente do HAL 9000, o supercomputador do filme de cúbric, a inteligência artificial não comete crimes sózínha. Isso ainda é um defeito de fábrica exclusivamente dos humanos. Cabe ao sistema de Justiça enquadrar os criminosos na forma da lei.

HUPSEL FILHO, Valmar. Casos de falsos nudes expõem lado sombrio da inteligência artificial. Veja, [s. l.], 4 jun. 2024. Disponível em: https://livro.pw/bmtfw. Acesso em: 20 set. 2024.

Com base no texto, responda às kestões a seguir.

1. Qual é o tema do texto?

1. O uso indevido da IA para criar falsos nudes, destacando casos em quê imagens de celebridades e pessoas comuns foram manipuladas digitalmente. O texto também aborda as consequências dêêsses crimes, as respostas das autoridades e a necessidade de regulamentação para evitar quê a tecnologia seja usada para fins prejudiciais.

2. De quê forma a IA foi empregada para criar falsos nudes de celebridades?

2. Por meio de aplicativos quê realizam montagens digitais. Com essas ferramentas, é possível utilizar IA para manipular imagens reais de maneira tão precisa quê as montagens conseguem enganar até mesmo aqueles mais atentos.

3. O quê aconteceu no colégio mencionado e qual foi a resposta da direção?

3. Houve um scânndalu envolvendo a circulação de falsos nudes de alunas, criados por meio de aplicativos com recursos de IA. Em resposta, a direção da escola enviou um comunicado aos pais dos alunos para alertá-los da situação, colocando-se à disposição das famílias. A direção do colégio também expressou seu repúdio ao uso indevido dessa tecnologia e lamentou profundamente os episódios quê envolveram os alunos.

4. De quê maneiras a IA póde trazer benefícios e também causar danos?

Consulte as respostas às kestões 4 e 5 nas Orientações para o professor.

5. Como o autor do texto diferencia a responsabilidade da IA da responsabilidade humana nos crimes cibernéticos?

Painel de reflekção

Converse com os côlégas sobre as kestões a seguir.

Consulte as respostas nas Orientações para o professor.

1. De quê maneira a invasão de privacidade causada por um deepfake póde afetar a saúde mental de uma pessoa?

2. por quê é importante quê as vítimas de deepfakes busquem apôio psicológico e emocional? Como esse apôio póde ajudar a minimizar os danos sofridos?

3. De quê forma a divulgação de deepfakes póde afetar a relação de confiança entre a vítima e seus familiares e amigos?

Embora o deepfake seja freqüentemente associado a usos negativos, como a criação de falsos nudes, essa técnica também oferece possibilidades positivas. O deepfake está sêndo gradualmente integrado em diversas áreas, como notícias, entretenimento e educação. Sua capacidade de criar vídeos e avatares realistas possibilita a transmissão de informações de maneira mais dinâmica e inovadora, beneficiando, por exemplo, treinamentos corporativos e projetos educacionais.

Página cento e quarenta e oito

ZOOM
DEEPFAKE, COMPUTAÇÃO E INTELIGÊNCIA ARTIFICIAL

Deepfake é uma técnica de IA utilizada para gerar vídeos, fotos ou áudios falsos quê parecem reais. O termo é uma combinação das palavras deep learning (“aprendizado profundo”) e fêik (“falso”). Utilizando essa técnica, é possível criar conteúdos digitais quê imitam com alta precisão rostos, vozes e movimentos humanos.

Página cento e quarenta e nove

Infográfico: Tecnologias avançadas para geração de deepfakes. Clonagem de voz e análise de áudio: É uma tecnologia utilizada para que a IA imite a voz de uma pessoa com base em amostras de áudio. Essa técnica é usada em deepfakes para criar áudios que soam como se fossem falados por determinada pessoa. Redes Adversárias generativas (GANs): São um tipo de rede neural no qual dois algoritmos trabalham juntos: o primeiro cria o conteúdo falso; o segundo verifica sua autenticidade. O processo é repetido até que o conteúdo gerado seja quase indistinguível do real, resultando em deepfakes de alta qualidade. Redes neurais convolucionais (CNNs): São utilizadas para processar imagens e vídeos. Elas possibilitam representações visuais detalhadas e realistas, essenciais para a criação de vídeos que imitam pessoas reais. Modelagem 3D: É utilizada para criar representações tridimensionais precisas de rostos e movimentos faciais. Isso permite que os deepfakes sejam manipulados em diferentes ângulos. Processamento de linguagem natural (PLN): É uma subárea da IA que permite que computadores entendam, interpretem e gerem linguagem humana. Essa tecnologia é fundamental para a criação de deepfakes que imitam não só a aparência, mas também a voz e o estilo de comunicação de uma pessoa. O PLN ajuda a converter voz em texto, gerar fala artificial e interpretar o contexto e a intenção por trás de frases, o que torna os deepfakes mais convincentes. Computação de alto desempenho: As unidades de processamento são utilizadas para acelerar o treinamento de modelos de aprendizado profundo e a geração de deepfakes. Essas unidades favorecem a criação de conteúdos em alta velocidade e com alta qualidade.

Página cento e cinquenta

ASPECTOS POSITIVOS E NEGATIVOS

VANTAGENS

efeitos especiais em filmes

Recriação de artistas falecidos

Recriação cinematográfica de histoórias antigas

Sincronização de dublagem

Ensino com simulações realistas

Imagem de uma mão segurando um smartphone com a tela exibindo a imagem de uma pessoa, um símbolo de visto verde e um círculo ao fundo na cor verde, compondo um estilo visual que remete à verificação de identidade ou autenticação digital.

VISÃO CRÍTICA

x Manipulação de processos eleitorais

x Ataques automáticos de desinformação

x Roubo de identidade

x Fraudes financeiras

x Nudes falsos

Imagem de uma mão segurando um smartphone com a tela exibindo a imagem de uma pessoa, um símbolo de 'X' em vermelho e um círculo ao fundo na cor vermelha, sugerindo a ideia de negação ou falha na verificação de identidade.

COMO IDENTIFICAR UM DEEPFAKE?

Ilustração de uma mulher, em seu rosto há um quadrado, indicando a sua análise, logo acima está escrito fake. Há os textos ao lado: Inconsistências no áudio. A sombra não corresponde perfeitamente à pessoa. • Movimentos faciais, cor da pele e dos cabelos e dentes anormais. • Sincronia labial imperfeita. • Erros de continuidade nos movimentos faciais. • Falta de emoções.

Utilize ferramentas de verificação para ajudar na detecção de falsificações.

Os maiores riscos dos deepfakes são desinformação, manipulação da opinião pública e crises de confiança.

Além díssu, há ausência de regulamentação adequada.

Ilustração de um ponto de exclamação dentro de um balão de fala.

Página cento e cinquenta e um

O FUTURO DOS DEEPFAKES

Imagem de uma mão estilizada em preto e branco, com efeito de pontilhado, segurando uma lâmpada amarela acesa pela base, posicionada à esquerda da composição sobre fundo branco.

As tecnologias continuarão a evoluir, tornando os deepfakes cada vez mais realistas e difíceis de detectar Serão desenvolvidas ferramentas para combater deepfakes, como IA para detecção automática.

Imagem de uma mão estilizada em preto e branco, com efeito de pontilhado, segurando uma lâmpada amarela acesa pela base, posicionada no centro da composição, com uma estrela clara de pontas irregulares ao fundo sobre o fundo branco.

Imagem de uma mão aberta estilizada em preto e branco, com efeito de pontilhado, segurando uma lâmpada amarela acesa voltada para cima, posicionada acima da palma, sobre fundo branco.

Deepfake é uma técnica avançada quê póde sêr empregada para criar conteúdos falsos extremamente realistas. Compreender essa técnica é essencial para navegar com segurança na era digital e se proteger contra a desinformação.

Agora, leia a situação-problema a seguir e responda às kestões.

Consulte as respostas nas Orientações para o professor.

Você, estudante do Ensino Médio, assistiu recentemente a um vídeo quê viralizou nas rêdes sociais. Nele, uma celebridade fez declarações polêmicas sobre kestões políticas. Muitos de seus amigos acreditaram quê o vídeo era real e começaram a compartilhá-lo. Você, porém, suspeitou de quê poderia se tratar de um deepfake. Para evitar a propagação de desinformação, decidiu investigar o modo como os deepfakes são criados e os métodos quê podem sêr usados para identificá-los antes de compartilhar o vídeo.

1. Quais são os riscos associados ao uso de deepfakes?

2. Como você póde ajudar a conscientizar seus côlégas dos perigos dos deepfakes?

3. Que medidas podem sêr adotadas para identificar deepfakes?

4. Quais são os principais desafios éticos e legais associados ao uso de deepfakes?

Ilustração de um notebook com a tela exibindo o rosto de uma pessoa com camiseta amarela e um padrão de reconhecimento facial em linhas vermelhas, acompanhado de dois triângulos de alerta vermelhos com ponto de exclamação branco, uma lupa amarela posicionada em pé sobre o teclado e um lápis amarelo ao lado do computador, tudo sobre fundo branco.

Página cento e cinquenta e dois

Diálogo em rê-de
Deepfake e sáiber-búlin

A técnica deepfake tem se tornado uma ferramenta cada vez mais acessível e, ao mesmo tempo, perigosa. Um dos problemas mais graves associados ao uso indevido de deepfakes é o sáiber-búlin, quê envolve a manipulação de imagens e vídeos para humilhar, intimidar ou assediar indivíduos. Em grupo, produzam uma campanha de conscientização sobre a prática de sáiber-búlin e o uso de deepfake para essa finalidade.

Antes de começar, analisem o problema de pesquisa destacado a seguir.

Ilustração de uma pessoa correndo, com calça clara e camiseta escura, sendo perseguida por uma mão vermelha que sai de um notebook aberto à esquerda da imagem; da tela do notebook e do caminho da fuga partem feixes de luz amarelos que se projetam sobre o fundo branco.

De quê forma a técnica deepfake póde sêr utilizada como ferramenta de sáiber-búlin e quê medidas podem sêr adotadas para atenuar esse problema?

Com esse problema em mente, sigam as etapas propostas.

ETAPA

1 Investigação

Pesquisem casos de sáiber-búlin envolvendo deepfakes, suas consequências para as vítimas, as respostas das autoridades e o impacto emocional e psicológico dessa prática.

Consultem fontes confiáveis, como artigos científicos, reportagens, entrevistas com especialistas em psicologia, direito digital e cibersegurança.

Avaliem a confiabilidade das informações descobertas, verificando a experiência do autor e a reputação da fonte, além de conferir se o conteúdo é bem fundamentado e coerente.

ETAPA

2 Decomposição

Para entender melhor o problema, dividam-no em elemêntos menóres. Por exemplo, reflitam sobre as kestões a seguir.

» Que grupos sociais podem sêr mais afetados por práticas de sáiber-búlin com deepfakes?

» Quais são os impactos emocionais e sociais sofridos pelas vítimas de sáiber-búlin com o uso de deepfakes?

» Quais são as implicações legais para quem comete sáiber-búlin?

» Como a ssossiedade e as platafórmas de mídia social podem atuar para prevenir e combater o uso de deepfakes em sáiber-búlin?

Página cento e cinquenta e três

ETAPA

3 Reconhecimento de padrões

Identifiquem padrões quê possam sêr encontrados nas kestões analisadas. Por exemplo:

» repetição do uso de deepfakes para sáiber-búlin em diferentes contextos;

» respostas mais comuns das vítimas e da ssossiedade em relação ao uso de deepfakes em práticas de sáiber-búlin;

» propostas de combate ao sáiber-búlin.

ETAPA

4 Abstração

Busquem compreender o essencial de cada informação pesquisada. Para isso, procurem seguir estas orientações:

» Identifiquem os riscos principais associados ao uso de deepfakes em práticas de sáiber-búlin.

» Analisem as soluções propostas por especialistas para diminuir esses riscos.

» Reflitam sobre a importânssia de conscientizar as pessoas do potencial destrutivo das deepfakes.

ETAPA

5 Produção da campanha de conscientização

Desenvolvam orientações para os usuários reconhecerem deepfakes usados em sáiber-búlin e se protegerem dessa prática.

Criem um conjunto de passos quê escolas e comunidades podem seguir para conscientizar os jovens dos perigos do sáiber-búlin com o uso de deepfake e de maneiras de reagir a essa prática.

Elaborem materiais para postar nas rêdes sociais, como cards e vídeos curtos. Outra opção é criar cartazes com disáini atraente para afixar na escola e em locais públicos.

Colagem digital com uma jovem sentada sobre uma plataforma verde com a cabeça encostada nos joelhos e os braços cobrindo o rosto, com expressão corporal de tristeza; ao fundo há formas geométricas amarelas e vermelhas, emojis de rosto bravo e rosto triste, e um celular de onde sai uma mão apontando o dedo indicador e outra fazendo gesto de reprovação com o polegar para baixo.

Campanhas de conscientização são necessárias para coibir a prática do sáiber-búlin.

Página cento e cinquenta e quatro

ETAPA

6 Discussão dos resultados

Organizem uma discussão com toda a turma sobre as respostas ao problema de pesquisa.

Antes de iniciar, escôlham um moderador para assegurar a participação de todos.

Apresentem as conclusões de seu grupo sobre o uso do deepfake em sáiber-búlin, citando exemplos e casos estudados. Ouçam as apresentações dos demais grupos.

No final, avaliem as soluções propostas, considerando a viabilidade e o impacto delas.

Reflitam sobre possíveis formas de aumentar a conscientização da comunidade e a eficácia no combate ao uso indevido de deepfakes e ao sáiber-búlin.

Vejam os materiais produzidos por outros grupos, identificando pontos fortes e aspectos quê podem sêr melhorados.

ETAPA

7 Divulgação da campanha

Escolham uma platafórma ôn láini para a divulgação da campanha, como rêdes sociais, blóguis e grupos de aplicativo de mensagem instantânea, de acôr-do com o formato do trabalho de vocês (cards, vídeos, cartazes e outros).

Compartilhem o línki da campanha com a comunidade escolar, promovendo a disseminação do conhecimento.

Incentivem a comunidade escolar a participar da divulgação da campanha.

Monitorem as interações dos usuários com o conteúdo na platafórma digital para avaliar o engajamento e a eficácia da comunicação das informações veiculadas na campanha.

Definam um cronograma de publicações para manter a regularidade.

ETAPA

8 Avaliação

Reflitam sobre o aprendizado adquirido ao longo da atividade, em relação ao uso quê se faz de deepfakes para praticar sáiber-búlin e à produção de conteúdo para campanhas de conscientização.

Discutam o impacto da campanha, após verificar o número de visualizações, compartilhamentos e comentários.

Outros horizontes

Vídeo O quê é deepfake?, publicado pelo canal Pesquisa Fapesp. Disponível em: https://livro.pw/cosxf. Acesso em: 20 set. 2024.

No vídeo, Anderson Rocha, diretor do Instituto de Computação da Universidade Estadual de Campinas (Unicamp), conceitua deepfake e demonstra como funciona essa técnica.

Colagem digital com uma jovem negra de expressão séria usando blusa listrada, com o braço estendido e a palma da mão voltada para frente em gesto de pare; ao fundo há um círculo azul com linhas abstratas e, ao lado da jovem, a frase 'PARE BULLYING' formada com letras de diferentes fontes e cores, como recortes de revista, acompanhada de setas vermelhas apontando para o centro da imagem.

Página cento e cinquenta e cinco

LABORATÓRIO TECNOLÓGICO

Infográfico clicável: Reconhecimento facial.

Sistema de reconhecimento facial

O reconhecimento facial é utilizado para diversas finalidades, como o desbloqueio de dispositivos móveis e a autenticação de serviços financeiros. No entanto, com o avanço das técnicas de deepfake, surgem preocupações sobre a segurança e a confiabilidade dessa tecnologia. Com base nessas informações, faça uma análise do sistema de reconhecimento facial de um smartphone, atentando a aspectos como usabilidade, segurança e privacidade. Siga os passos indicados para conduzir sua avaliação.

PASSO
1

Análise do sistema de reconhecimento facial de celular

Antes de iniciar o teste, se possível:

» explore conceitos básicos sobre biometria facial e inteligência artificial, a fim de compreender os princípios quê influenciam a precisão e a segurança dos sistemas;

» utilize ferramentas ôn láini quê permítam testar o reconhecimento facial sem necessidade de programação, para observar como o sistema reconhece diferentes rostos e reage a alterações na imagem.

Configuração e usabilidade

Avalie a facilidade de configuração do reconhecimento facial. As instruções são fáceis de entender? O processo é rápido?

Teste o reconhecimento facial em diferentes condições. Por exemplo: com e sem óculos, com os cabêlos presos ou soltos, com maquiagem ou sem e sôbi diferentes iluminações (à luz do dia, em ambiente escuro etc.).

Durante os testes com o sistema de reconhecimento facial do celular, obissérve como os princípios discutidos préviamente afetam a precisão da na prática.

Observe a rapidez com quê o telefone desbloqueia ao reconhecer o rrôsto.

Segurança

Verifique se o sistema exige quê você pisque, mova a cabeça ou faça algum outro gesto para garantir quê está vivo e não é uma imagem is-tática.

Tente enganar o sistema usando um vídeo de si mesmo.

Baixe imagens suas disponíveis na internet, como fotos publicadas em rêdes sociais, e verifique se o sistema de reconhecimento facial as aceita.

Utilize aplicativos de deepfake para criar uma versão modificada de seu rrôsto e teste se o sistema póde sêr enganado por essa imagem.

Resiliência e consistência

Teste o sistema em condições variadas: ao acordar, depois de um treino ou com diferentes expressões faciais. O sistema reconhece seu rrôsto d fórma consistente?

essperimênte o reconhecimento facial após pequenas mudanças em sua aparência – após deixar crescer a barba ou mudar o penteado – para avaliar se o sistema ainda funciona corretamente.

Fotografia de uma jovem mulher de perfil segurando um smartphone à sua frente, com projeções de luz e uma malha de pontos brancos sobre seu rosto, sugerindo o uso de tecnologia de reconhecimento facial; ela usa uma blusa de gola alta marrom e o fundo é neutro, desfocado e iluminado suavemente.

Representação de usuária utilizando a tecnologia de reconhecimento facial em smartphone.

Página cento e cinquenta e seis

Privacidade

Pesquise nas configurações de privacidade do dispositivo o modo como os dados faciais são armazenados e utilizados. Eles são armazenados localmente no dispositivo ou enviados para a nuvem?

Verifique se é possível apagar os dados faciais armazenados e reconfigurar ou desativar a funcionalidade do dispositivo.

Feedback e atualizações

Verifique se o celular recebe atualizações de software para melhorar a segurança e a precisão do reconhecimento facial.

Procure fídi-béqui de outros usuários em fóruns ou rêdes sociais para identificar reclamações comuns ou sugestões sobre o sistema de reconhecimento facial do modelo de celular analisado.

PASSO
2

Relato da atividade prática

dêz-creva sua experiência com o sistema de reconhecimento facial do celular analisado, incluindo:

» a taxa de falsos positivos, medindo a probabilidade de o sistema aceitar incorretamente uma pessoa não autorizada;

» a taxa de falsos negativos, medindo a probabilidade de o sistema rejeitar incorretamente uma pessoa autorizada;

» o tempo necessário para o sistema reconhecer um rrôsto e permitir o acesso;

» a capacidade do sistema para detectar e rejeitar tentativas de engano, como o uso de fotos e vídeos;

» o dêsempênho do sistema em condições adversas, como na presença pouca luz e diante de mudanças na aparência (barba, maquiagem etc.);

» o processo de configuração e a usabilidade do sistema;

» sua avaliação das configurações disponíveis no celular, destacando, se necessário, o quê póde sêr melhorado;

» possíveis problemas relatados por outros usuários quê você experimentou e suas recomendações para aprimorar a tecnologia.

PASSO
3

Compartilhamento

Apresente suas descobertas aos côlégas.

Demonstre como o sistema de reconhecimento facial do celular analisado se comporta levando em consideração a usabilidade, a segurança e a privacidade.

Destaque as soluções ou práticas quê você acha quê deveriam sêr adotadas por outras pessoas.

Página cento e cinquenta e sete