Robôs podem ser nossos parceiros, diz a cientista do MIT

Zoë Corbyn do The Guardian


A Dra. Kate Darling, pesquisadora do MIT (Instituto de Tecnologia de Massachusetts) diz que seus robôs bebês dinossauros imitam muito bem a dor e o sofrimento. A cientista, especialista em ética em Inteligência Artificial (IA), afirma que, para nós, humanos, florescermos, deveríamos ir além de pensar nos robôs como nossos potenciais futuros competidores.

Especialista em pesquisa em interação humano-robô, ética de robôs e teoria e política de propriedade intelectual no Laboratório de Mídia do Massachusetts Institute of Technology (MIT), a Dra. Kate Darling argumenta em seu novo livro, The New Breed, que estaríamos mais preparados para o futuro se começássemos a pensar em robôs e inteligência artificial (IA) como animais.

A seguir, uma síntese de sua entrevista,

O que há de errado com a maneira como pensamos sobre robôs?

Frequentemente, subconscientemente, comparamos robôs a humanos e IA à inteligência humana. A comparação limita nossa imaginação. Focados em tentar recriar a nós mesmos, não estamos pensando criativamente sobre como usar robôs para ajudar os humanos a florescer.

Por que uma analogia com animais é melhor?

Temos animais domesticados porque eles são úteis para nós — bois para arar nossos campos, sistemas de entrega de pombos. Animais e robôs não são iguais, mas a analogia nos afasta do persistente robô-humano. Ele abre nossa mente para outras possibilidades — que os robôs podem ser nossos parceiros — e nos permite ver algumas das escolhas que temos ao definir como usamos a tecnologia.

Mas as empresas estão tentando desenvolver robôs para tirar os humanos da equação — carros-robôs sem motoristas, entrega de pacotes por drones. Uma analogia com o animal não esconde o que, de fato, é uma ameaça significativa?

Existe uma ameaça aos empregos das pessoas. Mas essa ameaça não são os robôs — são as decisões da empresa que são impulsionadas por um sistema econômico e político mais amplo de capitalismo corporativo. A analogia com o animal ajuda a ilustrar que temos algumas opções. As diferentes maneiras como aproveitamos as habilidades dos animais no passado mostram que poderíamos escolher projetar e usar essa tecnologia como um suplemento ao trabalho humano, em vez de apenas tentar automatizar as pessoas.

Quem deve ser responsável quando um robô causa danos? Na Idade Média, os animais eram julgados e punidos...

Fizemos isso por centenas de anos da história ocidental: porcos, cavalos, cães e pragas de gafanhotos — e ratos também. E, estranhamente, os testes seguiram as mesmas regras dos testes em humanos. Parece tão estranho hoje porque não consideramos os animais moralmente responsáveis por suas ações. Mas minha preocupação quando se trata de robôs é que, por causa da comparação robô-humano, vamos cair nesse mesmo tipo de falácia do teste animal da Idade Média, em que tentamos responsabilizá-los pelos padrões humanos. E estamos começando a ver lampejos disso, onde empresas e governos dizem: “Oh, não foi nossa culpa, foi este algoritmo”.

Não discordo que os robôs mereceriam direitos se se tornassem conscientes ou sencientes. Mas esse é um cenário de futuro distante.

Não deveríamos responsabilizar os fabricantes de robôs por qualquer dano?

Minha preocupação é que as empresas estão sendo deixadas de fora. No caso do ciclista morto por um carro Uber que dirigia sozinho em 2018, o motorista (que viajava como reserva) foi responsabilizado em vez de o fabricante. O argumento das empresas é que não devem ser responsáveis pelo aprendizado da tecnologia, porque não são capazes de prever ou planejar todas as possibilidades.

Eu me inspiro em modelos históricos de como atribuímos responsabilidade legal quando os animais causam danos imprevistos: por exemplo, em alguns casos, distinguimos entre animais perigosos e mais seguros e as soluções variam desde responsabilizar os proprietários estritamente até permitir alguma flexibilidade, dependendo do contexto.

Se o seu pequeno cão poodle morder alguém na rua, de forma totalmente inesperada pela primeira vez, você não será punido como se fosse uma chita. Mas o ponto principal é que comportamento imprevisível não é um problema novo e não devemos deixar as empresas argumentarem que é.

Você não tem nenhum animal de estimação, mas tem muitos robôs. Conte-nos sobre eles ...

Eu tenho sete dinossauros robôs bebês Pleo, um cão robótico Aibo, um robô foca bebê Paro e um robô assistente Jibo. Meu primeiro Pleo chamei de Yochai. Acabei aprendendo em primeira mão sobre nossa capacidade de ter empatia pelos robôs. Acabou por imitar muito bem a dor e a angústia. E, mostrando aos meus amigos e pedindo-lhes que o segurassem pelo rabo, percebi que realmente me incomodava se eles o segurassem por muito tempo. Eu sabia exatamente como o robô funcionava — que tudo era uma simulação — mas ainda me sentia compelida a fazer a dor parar. Atualmente, há um conjunto substancial de pesquisas mostrando que temos empatia pelos robôs.

Algumas pessoas, como a psicóloga social Sherry Turkle, se preocupam com robôs de companheirismo substituindo os relacionamentos humanos. Você compartilha desse medo?

Não parece ter nenhum fundamento na realidade. Somos criaturas sociais capazes de desenvolver relacionamentos com todos os diferentes tipos de pessoas, animais e coisas. Um relacionamento com um robô não iria necessariamente tirar nada do que já temos.

Quais seriam, se houver, então os verdadeiros problemas com companheiros de robôs?

Eu me preocupo que as empresas possam tentar tirar vantagem das pessoas que estão usando essa tecnologia muito emocionalmente persuasiva - por exemplo, um robô sexual explorando você no calor do momento com uma compra atraente dentro do aplicativo. Da mesma forma que proibimos a publicidade subliminar em alguns lugares, podemos considerar a manipulação emocional que será possível com os robôs sociais.

E quanto à privacidade? Os animais podem manter seus segredos, mas um robô não pode...

Esses dispositivos estão se movendo para espaços íntimos de nossas vidas e muito de sua funcionalidade vem de sua capacidade de coletar e armazenar dados para aprender. Não há proteção suficiente para esses conjuntos de dados gigantes que essas empresas estão acumulando. Também me preocupo com o fato de que, como grande parte da robótica social lida com personagens modelados em humanos, levanta questões sobre preconceitos de gênero e raça que colocamos no design. Os estereótipos prejudiciais são reforçados e incorporados à tecnologia. E me preocupa que estejamos olhando para esses companheiros robôs como uma solução para nossos problemas sociais, como solidão ou falta de profissionais que cuidam deles. Assim como os robôs não causaram esses problemas, eles também não podem consertá-los. Eles devem ser tratados como ferramentas complementares ao cuidado humano que fornecem algo novo.

Devemos dar direitos aos robôs?

Isso costuma surgir na ficção científica, girando em torno da questão de saber se os robôs são suficientemente parecidos conosco. Não discordo que os robôs, teoricamente, mereceriam direitos se se tornassem conscientes ou sencientes. Mas esse é um cenário de futuro distante. Os direitos dos animais são um indicador muito melhor de como essa conversa em torno dos direitos dos robôs vai se desenrolar na prática, pelo menos na sociedade ocidental.

E quanto aos direitos dos animais, somos hipócritas. Gostamos de acreditar que nos preocupamos com o sofrimento animal, mas se você olhar para o nosso comportamento real, gravitamos em direção à proteção dos animais com os quais nos relacionamos emocional ou culturalmente. Nos Estados Unidos, você pode comprar um hambúrguer no drive-tru, mas não comemos carne de cachorro. Acho que provavelmente faremos o mesmo com os robôs: dando direitos a alguns e não a outros.

Deveríamos ter robôs com aparência humana?

Acho que nunca vamos parar de fazer isso, mas, para a maioria das intenções e propósitos práticos, a forma humana é superestimada e usada em demasia. Podemos colocar emoções em tudo, de bolhas a cadeiras. As pessoas podem até responder melhor aos robôs não humanos, porque o que costuma ser decepcionante é quando as coisas não se comportam da maneira que você esperava.

Comentário (0) Hits: 772

A sonda New Horizons está hoje a 7,5 bilhões de km de nós

Ethevaldo Siqueira, c/notícia da NASA de 16-04-2021

Para cobrir essa distância os sinais de rádio da NASA levam mais de 7 horas. O lançamento da sonda New Horizons foi o primeiro lançamento orbital de 2006 e ocorreu às 19:00 UTC (hora universal) do dia 19 de janeiro daquele ano, com um foguete Atlas-5/551 (AV-010) que subiu a partir da Plataforma SLC-41 do Cabo Canaveral e colocou a sonda New Horizons a caminho do planeta Plutão.

Nas semanas seguintes ao seu lançamento no início de 2006, quando o New Horizons da NASA ainda estava perto de casa, levou apenas alguns minutos para transmitir um comando para a espaçonave e ouvir de volta que o computador de bordo recebeu e estava pronto para executar as instruções.

Conforme a New Horizons cruzava o Sistema Solar e sua distância da Terra saltava de milhões para bilhões de milhas, o tempo entre os contatos cresceu de alguns minutos para várias horas. E em 18 de abril às 12:42 UTC ou seja, Tempo Universal Coordenado (ou 17 de abril às 8:42 pm EDT), a New Horizons alcançará um raro marco no espaço profundo — 50 unidades astronômicas do Sol, ou 50 vezes a distância entre Terra e o Sol.

A New Horizons é a quinta espaçonave a atingir essa grande distância, seguindo as lendárias Voyagers 1 e 2 e suas predecessoras, as sondas Pioneers 10 e 11. Ela está hoje a quase 7,5 bilhões de km de distância da Terra, em uma região remota onde um desses comandos por rádio, mesmo viajando na velocidade da luz, precisa de sete horas para alcançar a espaçonave longínqua. E para retornar à Terra, mais sete horas antes que sua equipe de controle na Terra tome conhecimento de que sua mensagem foi recebida.

Comentário (0) Hits: 922

Escolas online vieram para ficar nos EUA, mesmo depois da pandemia

Por Natasha Singer

Algumas famílias passaram a preferir escolas virtuais autônomas e os distritos estão correndo para acomodá-las — embora persistam dúvidas sobre o aprendizado remoto.

Rory Levin, um aluno da sexta série em Bloomington, Minnesota, costumava odiar ir à escola. Ele tem um problema de saúde que muitas vezes o deixa apreensivo perto de outros alunos. Assistir a aulas de educação especial pouco ajudou a aliviar sua ansiedade.

Quando seu distrito criou um programa autônomo exclusivamente digital, da Bloomington Online School, no ano passado para a pandemia, Rory optou por experimentá-lo. Agora, o menino de 11 anos está curtindo a escola pela primeira vez, disse sua mãe, Lisa Levin. Ele adora as vídeo-aulas ao vivo e fez amizade com outros alunos online, disse ela.

Em dezembro, as Escolas Públicas de Bloomington decidiram continuar administrando a escola online mesmo depois que a pandemia diminuir. A Sra. Levin planeja reinscrever Rory neste outono

“É um ajuste tão bom para ele”, disse ela. “Nós realmente esperamos que eles possam continuar pelo resto de sua carreira escolar.”

Um ano depois que o coronavírus desencadeou uma interrupção sísmica na educação pública, alguns dos programas remotos que os distritos pretendiam que fossem temporários estão prontos para sobreviver à pandemia. Mesmo com a volta dos alunos às salas de aula, um subconjunto de famílias que passou a preferir o aprendizado online está pressionando para mantê-lo — e os sistemas escolares estão correndo para acomodá-los.

Os distritos se apressam para criar escolas online completas, mesmo com o aumento da preocupação de que o aprendizado remoto tenha causado um impacto significativo no progresso acadêmico e na saúde emocional de muitas crianças. Pais e legisladores, alarmados com a situação, pediram a reabertura das escolas. No mês passado, o governador Phil Murphy, um democrata, chegou a dizer que não deveria haver a opção de aprendizagem remota para crianças em Nova Jersey neste outono.

Mesmo assim, pelo menos várias centenas dos 13.000 distritos escolares do país estabeleceram escolas virtuais neste ano acadêmico, com o objetivo de operá-las nos próximos anos, disseram pesquisadores em Educação. Ao contrário de muitos programas escolares improvisados para pandemia, essas escolas virtuais independentes têm seus próprios professores, que trabalham apenas com alunos remotos e usam currículos projetados para o aprendizado online.

A demanda por escolas virtuais disparou. O Fulton County Schools em Atlanta, um dos maiores sistemas escolares do país, planeja matricular cerca de 1.000 alunos em sua nova escola online neste outono. O distrito escolar de Anchorage espera que cerca de 2.000 crianças frequentem sua escola online por um ano a partir de agosto. E em Minnesota, o número de escolas online aprovadas pelo estado está a caminho de dobrar este ano para 80 ou mais, de 37 antes da pandemia.

Em um estudo da RAND Corporation, "O Aprendizado Remoto Chegou para Ficar", 58 dos 288 administradores distritais — cerca de 20 por cento — disseram que seu sistema escolar já havia iniciado uma escola online, estava planejando começar uma ou estava considerando fazê-lo como uma oferta pós-pandêmica.

“Isso dificilmente é uma panaceia ou uma bala de prata para a escola pública”, disse Heather Schwartz, pesquisadora sênior de políticas da RAND que dirigiu o estudo. Mas, acrescentou, “há uma minoria de pais, uma minoria de alunos e até uma minoria de professores para os quais a escolaridade virtual é a modalidade preferida.”

No entanto, uma onda de escolas online traz riscos. Isso poderia normalizar as abordagens de aprendizagem remota que tiveram resultados ruins para muitos alunos, disseram pesquisadores em educação. Isso também pode dividir ainda mais um frágil sistema educacional nacional americano, especialmente quando muitas famílias asiáticas, negras e latinas têm medo de mandar seus filhos de volta à escola este ano.

“Meu medo é que isso leve a mais fraturas e fragmentações”, disse Jack Schneider, professor assistente de Educação da Universidade de Massachusetts, Lowell.

Os distritos disseram que estavam simplesmente respondendo à demanda de pais e filhos que desejam manter o ensino à distância — alguns por causa de problemas de saúde dos alunos, alguns por causa de preocupações com intimidação ou discriminação em suas escolas e alguns que preferem apenas a conveniência de aprender em casa.

Os distritos que não conseguirem abrir escolas online podem perder alunos — junto com o financiamento da educação do governo — para academias virtuais administradas por distritos vizinhos, empresas ou organizações sem fins lucrativos, disseram os administradores. Para pagar pelas novas ofertas online, disseram alguns distritos, eles estão usando fundos federais de ajuda ao coronavírus ou transferindo recursos de outros programas.

As escolas online começaram a ser abertas na década de 1990, algumas administradas por estados ou distritos e outras por empresas privadas ou organizações de gestão sem fins lucrativos.

Mas, até recentemente, elas desempenhavam um papel de nicho em muitos estados. Na última década, os reguladores do governo acusaram de fraude alguns dos maiores provedores de escolas online com fins lucrativos , citando-os por maus resultados acadêmicos e escolas fechadas por baixo desempenho. Vários estudos relataram que as crianças em escolas online em tempo integral, particularmente as escolas charter cibernéticas, têm resultados educacionais mais fracos do que seus colegas em escolas públicas tradicionais.

Muitas escolas virtuais exigem que as crianças trabalhem por meio de cursos online de forma independente, complementados por ocasionais interações virtuais com professores. Essa abordagem autodirigida atraiu alunos automotivados e aqueles com pais disponíveis para atuar como treinadores de aprendizagem. Mas não tem funcionado bem para aqueles que precisam de mais orientação do professor ao vivo e face a face.

“Se nossas escolas públicas tradicionais começarem a ensinar dessa forma, será desastroso”, disse Gary Miron, professor de avaliação e pesquisa educacional da Western Michigan University, que estudou escolas virtuais.

Antes da pandemia, menos de 1% dos alunos do ensino fundamental e médio dos EUA frequentavam escolas virtuais em tempo integral, de acordo com o National Education Policy Center da University of Colorado. A maioria desses alunos frequentou escolas charter virtuais.

Então, na primavera passada, com a disseminação do coronavírus, os distritos começaram a buscar currículos digitais já prontos. Muitos recorreram a provedores estabelecidos como a Florida Virtual School, uma escola pública online de 24 anos que oferece instrução gratuita para alunos do Estado e franquia seu material didático para centenas de outros distritos.

Este ano letivo, as Escolas Públicas de Somerville, em Somerville, Massachusetts, possibilitaram que alunos remotos tivessem certas aulas por meio da Escola Virtual da Flórida. Keri Rodrigues, mãe de Somerville, matriculou seu filho Miles, da terceira série, no programa em dezembro.

Rodrigues disse que Miles ficou entediado e se sentiu ignorado durante as vídeo aulas ao vivo em sua escola local. Ela achou que ele ficaria mais feliz fazendo cursos na escola virtual, onde ele poderia direcionar seu próprio aprendizado e ela poderia verificar seu progresso.

“Ele teve uma bela experiência”, disse a mãe, que é presidente da União Nacional de Pais uma rede de grupos de defesa que representam pais de baixa renda e negros. “Um dia ele estava perdendo o controle dos estudos sociais e poderia passar o dia todo fazendo essas aulas — então, no dia seguinte, ele poderia estudar matemática.”

Outros distritos, como as Escolas Públicas de Bloomington, decidiram criar escolas online internamente.

“Nosso slogan é: “Os cursos da Bloomington Online School são ministrados por professores da Bloomington com currículo criado pela Bloomington'”, disse John Weisser, diretor-executivo de tecnologia do distrito. “Isso adiciona uma camada de integridade, onde muitas vezes os cursos online são considerados menos importantes.”

Alguns distritos também oferecem oportunidades sociais para crianças em escolas online. Os alunos do programa virtual do distrito escolar de Anchorage podem participar de esportes, clubes e outras atividades presenciais por meio das escolas de seus bairros.

Os distritos que estabelecem escolas online enfrentam uma curva de aprendizado. No verão passado, as Huntsville City Schools, no Alabama, começaram a comercializar sua nova Huntsville Virtual Academy como uma opção para as crianças aprenderem de qualquer lugar em seu próprio ritmo. Mas, alguns meses depois do início do ano letivo, os pais pediram mais apoio e estrutura para as crianças no programa, então, neste semestre, a escola introduziu um modelo dirigido pelo professor que exige que os alunos façam login para aulas de vídeo em grupo e liguem suas câmeras. Quase 6.900 dos alunos do distrito — cerca de 30 por cento — estão matriculados.

A Siloam Springs Virtual Academy, criada no outono passado pelo Distrito Escolar de Siloam Springs, no noroeste do Arkansas, também endureceu suas políticas. Em vez de aceitar todos os alunos interessados, está pedindo a eles que enviem inscrições para este outono e atendam a certos critérios, disseram os administradores em uma reunião do conselho escolar. Isso inclui ter um bom histórico de frequência e forte apoio dos pais.

O ímpeto das escolas online é particularmente evidente em Minnesota. O Departamento de Educação do estado disse que estava processando cerca de 50 pedidos de novas escolas virtuais, em comparação com dois ou três um ano antes do coronavírus.

“Antes era um pequeno clube de pessoas que realmente entendiam e estavam praticando o aprendizado online”, disse Jeff Plaman, o especialista em aprendizado digital que gerencia inscrições para novas escolas online no Departamento de Educação de Minnesota. “Agora é toda a força de trabalho.”

No verão passado, os administradores das Escolas da Área Osseo, perto de Minneapolis, criaram um programa de ensino à distância para o ano escolar pandêmico. Cerca de 5.000 alunos do jardim de infância até a 12ª série, ou quase 25% dos alunos do distrito, se inscreveram.

Agora Osseo está montando uma escola online completa com seu próprio corpo docente, disse Anthony Padrnos, diretor executivo de tecnologia do distrito. Ao contrário de algumas escolas virtuais que embalam 80 ou mais alunos em aulas de vídeo em grupo ao vivo, disse ele, Osseo limita suas aulas online com 30 a 35 alunos. Até agora, 1.000 se inscreveram para o outono.

Resta saber se as escolas virtuais podem manter um alto índice de matrículas após a pandemia. Até mesmo os alunos autônomos que gostam de estudar online disseram que sentiram falta dos amigos, sem falar nas atividades pessoais, como ginástica.

No verão passado, os administradores das Escolas da Área Osseo, perto de Minneapolis, criaram um programa de ensino à distância para o ano escolar pandêmico. Cerca de 5.000 alunos do jardim de infância até a 12ª série, ou quase 25% dos alunos do distrito, se inscreveram.

“Eu gosto da escola online”, disse Abigail Reams, 11, uma aluna do quinto ano da Bloomington Online School que postou o vídeo de notícias da escola este ano. “Mas também gosto de aulas presenciais. Eu realmente espero que no próximo ano possamos voltar.”

Comentário (0) Hits: 4347

Inteligência artificial deve ser aprimorada e não sufocada

Cinco maneiras de resistir às distorções incorporadas que afetam os algoritmos

John Thornhill do Financial Times


A promessa dos sistemas de inteligência artificial é que eles são mais rápidos, baratos e mais precisos do que os humanos estúpidos. O perigo é que eles se tornem uma forma de poder inexplicável e incontestável que apenas reforça as hierarquias existentes e os preconceitos humanos. 

Como vimos, com o protesto de alunos, irritados com as notas atribuídas automaticamente nos exames e com a equipe do hospital na linha de frente, colocada no fim da fila para vacinações Covid-19, a reação humana natural é se enfurecer contra a máquina e seus critérios.

Garantir que os sistemas de IA sejam usados ​​de maneira adequada é um dos desafios mais difíceis de nossos tempos, dada a sua crescente complexidade e onipresença em serviços tão variados quanto mecanismos de pesquisa, mercados online e aplicativos de contratação de pessoas.

Como podemos fazer tudo isso? Aqui estão cinco ideias, embora imperfeitas.

O primeiro problema, destacado em Coded Bias — um documentário lançado pela Netflix esta semana — é a chocante falta de diversidade entre as classes de criação de algoritmos. Os acadêmicos ativistas apresentados no filme, incluindo Joy Buolamwini, Cathy O'Neil e Safiya Noble, fizeram um excelente trabalho, ao expor os preconceitos embutidos de sistemas baseados na compreensão humana inadequada de questões sociais complexas e dados imperfeitos.

Parte do problema decorre da composição demográfica distorcida da própria indústria de tecnologia. Deve ser uma prioridade das políticas públicas, filantropia privada e prática da indústria de tecnologia encorajar grupos mais sub-representados a trabalhar em tecnologia. Por que o número de mulheres que obtêm diplomas de bacharelado em ciência da computação nas universidades dos Estados Unidos caiu mais da metade, para apenas 18%, desde 1984?

Em segundo lugar, os sistemas automatizados só devem ser implantados quando tiverem benefícios líquidos comprováveis ​​e forem amplamente aceitos pelas pessoas mais afetadas por seu uso. Pegue a tecnologia de reconhecimento facial habilitada para IA, que pode ser útil e conveniente nos contextos certos.

Quando totalmente informado, o público tende a aceitar que às vezes é necessário haver um compromisso entre privacidade e segurança, especialmente durante emergências de segurança ou saúde. Mas as pessoas rejeitam com razão o uso indiscriminado de tecnologia falha por organizações que não prestam contas.

Terceiro, as empresas de tecnologia que desenvolvem sistemas de IA devem incorporar o pensamento ético em todo o processo de design e considerar as consequências indesejadas e possíveis soluções. Para seu crédito, muitas empresas de tecnologia assinaram códigos de prática do setor, com foco em transparência e responsabilidade. Mas sua credibilidade foi prejudicada depois que dois importantes pesquisadores éticos do Google deixaram a empresa após acusarem a liderança sênior de retórica vazia.

Quarto, a indústria de tecnologia pode ajudar a reconstruir a confiança submetendo conjuntos de dados e algoritmos a um escrutínio independente. O setor financeiro viu o sentido de financiar agências externas de classificação de crédito para avaliar o risco de vários instrumentos e instituições financeiras. Como ficou claro durante a crise financeira de 2008, essas agências podem fazer as coisas muito mal. No entanto, a auditoria algorítmica seria uma disciplina útil.

Quinto, quando se trata do uso de sistemas de IA nas áreas mais críticas, como carros autônomos ou diagnósticos médicos, é claro que uma regulamentação mais ampla é necessária agora. Alguns especialistas têm argumentado de forma persuasiva a favor da criação do equivalente algorítmico da Food and Drug Administration (FDA), criada em 1906 para regular os padrões.

Alguns algoritmos de aprendizado de máquina treinados para encontrar soluções, em vez de projetados para isso, representam um desafio específico. Como eles funcionam nem sempre pode ser compreendido ou previsto com segurança. Seus danos também podem ser difusos, dificultando o litígio de reparação. Assim como o FDA aprova drogas farmacêuticas, este novo regulador deve examinar algoritmos complexos antes de serem implantados para usos que mudem vidas.

Mesmo assim, nunca seremos capazes de resolver a questão do viés algorítmico isoladamente, especialmente quando não há consenso social sobre os usos da IA, diz Rashida Richardson, uma pesquisadora visitante da Rutgers Law School. “O problema do viés algorítmico é que não é apenas um erro técnico que tem uma solução técnica. Muitos dos problemas que vemos derivam da desigualdade sistêmica e dos dados parciais”, diz ela.

Uma esperança é que as ferramentas habilitadas para IA possam ajudar a interrogar essa desigualdade sistêmica, destacando padrões de privação socioeconômica ou injustiça judicial, por exemplo. Nenhum sistema de computador caixa preta se compara aos mistérios insondáveis ​​da mente humana. No entanto, se usadas com sabedoria, as máquinas também podem ajudar a combater a tendência humana.

Comentário (0) Hits: 3313

A revolução dos microssatélites

Christian Davenport, do Washington Post
6 de abril de 2021

A avalanche foi um desastre impressionante, 247 milhões de pés cúbicos (6.994.261,95 m3) de gelo glacial e neve descendo a cordilheira tibetana a 185 mph (296 km/h). Nove pessoas e dezenas de animais foram mortos em um evento que assustou cientistas ao redor do mundo.

Enquanto pesquisavam as causas de uma avalanche com tanta força, uma equipe de pesquisadores que estudava as mudanças climáticas examinou imagens tiradas nos dias e semanas anteriores e viu rachaduras sinistras que começaram a se formar no gelo e na neve. Então, escaneando fotos de uma geleira próxima, eles notaram fendas semelhantes se formando, e passaram a lutar para avisar as autoridades locais que também estava prestes a cair.

As imagens das geleiras vieram de uma constelação de satélites não maiores que uma caixa de sapatos, em órbita de 280 milhas (448 km) acima. Operados pela empresa Planet, com sede em São Francisco, os satélites, chamados Doves, pesam pouco mais de 10 quilos cada um e voam em grupos ou "rebanhos" que hoje incluem 175 satélites. Se algum falhar, a empresa o substitui, e à medida que baterias melhores, matrizes solares e câmeras ficam disponíveis, a empresa atualiza seus satélites da maneira como a Apple revela um novo iPhone.

A revolução na tecnologia que transformou a computação pessoal, colocou alto-falantes inteligentes em casas e deu origem à era da inteligência artificial e do aprendizado de máquina também está transformando o espaço. Enquanto foguetes e exploração humana recebem a maior parte da atenção, uma transformação silenciosa e muitas vezes negligenciada ocorreu na forma como os satélites são fabricados e operados. O resultado é uma explosão de dados e imagens da órbita.

Assim como os computadores encolheram de tamanhos imensos de uma sala para um iPhone que pode caber no seu bolso, satélites, também, encolheram drasticamente. Em vez de ser do tamanho de um caminhão de lixo, custando até US$ 400 milhões, os satélites agora não são maiores que um telefone de micro-ondas ou mesmo um pão. Eles custam uma fração de seus antecessores, apenas um milhão de dólares ou menos, e podem ser produzidos em massa em fábricas, ou em alguns casos uma garagem ou sala de aula universitária.

À medida que o tamanho e os custos dos satélites caíram, seus números cresceram dramaticamente. O número de satélites em operação mais do que dobrou de 1.381 em 2015 para cerca de 3.371 até o final do ano passado, de acordo com a Bryce Space and Technology, consultoria que monitora o setor. Em 2011, foram lançados apenas 39 satélites que pesavam menos de 1.322 libras, ou 600 kg, de acordo com Bryce. Em 2017, foram 338, e no ano passado, quando a SpaceX começou a colocar centenas de seus satélites Starlink projetados para transportar a Internet para áreas rurais, o número saltou para mais de 1.200.

A indústria está pronta para continuar seu rápido crescimento à medida que a SpaceX e outros colocam constelações de milhares de satélites destinados a atender áreas sem acesso à banda larga. O satélite incrivelmente encolhido deu origem a foguetes mais baratos projetados especificamente para lançar lotes de pequenos satélites. E a concorrência entre os lançadores continua a reduzir o custo de entregar uma nave espacial em órbita.

Agora, a indústria chamou a atenção dos capitalistas de risco, que têm financiado empresas como a Planet e outras. Nas últimas semanas, duas empresas de satélite, Spire Global e Black Sky, passaram a público por meio de uma fusão conhecida como uma empresa de aquisição de propósito especial, ou SPAC.

Empresas em todo o mundo estão trabalhando para desenvolver pequenos satélites. A AAC Clyde Space, uma empresa com sede na Suécia, lançou 10 satélites, alguns conhecidos como "cubesats", por suas pequenas dimensões de quatro polegadas que pesam apenas alguns quilos.

Como a Planet, ele oferece "espaço como serviço", o que significa que as pessoas podem comprar acesso aos dados de seus satélites sem se preocupar em lançar ou construir a espaçonave.

"Você não precisa se envolver em como projetar os satélites, acompanhar a produção, cuidar dos testes", disse Rolf Hallencreutz, presidente do conselho da empresa. "Você diz a alguém: 'Eu preciso desse tipo de dados.' E nós fornecemos esses dados. Para nós, ele muda o jogo porque nos permite atender vários clientes com a mesma constelação."

A pequena indústria de satélites também chamou a atenção do Pentágono e das agências de inteligência que adorariam ter enxames de pequenos satélites, capazes de lançar rapidamente e serem substituídos facilmente, olhando para baixo atrás das linhas inimigas.

A Planet foi fundada em 2010 por um trio de jovens cientistas e engenheiros que estavam trabalhando no Centro de Pesquisa Ames da NASA no Vale do Silício no que se tornou uma história clássica de start-up tecnológica: jovens, impulsionados pelo idealismo, trabalhando até tarde em seu próprio tempo e aproveitando suas melhores tendências nerds para construir seus próprios satélites que eram menores e mais baratos.

Sim, eles fizeram isso em uma garagem em Cupertino, onde a Apple está sediada. Desde então, a Planet lançou com sucesso 452 satélites e se tornou a vanguarda da indústria.

Agora, conta com mais de 500 funcionários, e seu total de usuários ativos cresceu em média 40% ao ano desde 2018.

Os satélites da empresa circulam o globo em órbitas cuidadosamente projetadas que "varrem a Linha da Terra" — tirando fotografias precisas de massas terrestres que, juntas, criam uma imagem do planeta todos os dias. Isso dá aos cientistas e pesquisadores uma olhada nas condições no solo, para que eles possam rastrear mudanças em florestas, áreas costeiras, tráfego marítimo e terras agrícolas em quase tempo real.

As imagens podem ajudar na segurança da fronteira, no rastreamento de refugiados e no socorro a desastres. Como a empresa compilou um vasto arquivo de imagens, que se estende há anos, seus assinantes podem visitar o passado, observando como ela mudou — um lapso de tempo pesquisável da Terra.
"As fotos não mentem", disse Will Marshall, co-fundador e executivo-chefe da Planet.

Andreas Kääb, glaciólogo da Universidade de Oslo, descobriu que enquanto explorava o que causou a avalanche devastadora no Tibete, ele e outros cientistas notaram "que a geleira vizinha parecia também se comportar estranhamente", disse ele em um e-mail. Eles tentaram entrar em contato com as autoridades locais no Tibete, passando por contatos na China, para avisá-los que também estava prestes a entrar em colapso. Mas levou cerca de um dia antes de sua mensagem passar. Até então, "a geleira já havia desmoronado", disse ele.

Ninguém ficou ferido, mas o "caso mostra que imagens diárias de alta resolução são muito importantes na gestão de desastres, e eles claramente têm o potencial para avisos rápidos antecipados".

A Associação de Conservação da Amazônia, uma organização sem fins lucrativos, usa as imagens de satélite para monitorar a exploração madeireira ilegal e minas de ouro na Amazônia andina. No passado, ele usava satélites tradicionais do governo que tiravam fotos "a cada oito dias, e se estiver nublado, você tem que esperar mais oito dias", disse Matt Finer, diretor do Monitoramento do Projeto Amazônia Andina.

Essas imagens tinham resolução de 30 metros, o que era decente, mas não ótimo quando você está tentando contar árvores. Em seguida, a Agência Espacial Europeia lançou um satélite com resolução melhorada, mostrando objetos com 10 metros de diâmetro. Mas os satélites do Planeta foram uma melhoria bem-vinda, resolução de três metros e imagens que estão disponíveis diariamente.

"Este é um monitoramento em tempo real na escala de horas ou dias", disse Finer. "Muitas vezes, estamos olhando para uma imagem de hoje ou ontem."

Os dados do governo eram gratuitos, e o grupo teve que pagar uma taxa de assinatura pelas imagens do Planeta. Mas valeu a pena, disse Finer. "Você está falando de saltos de melhoria em sua capacidade visual e analítica", disse ele.

E usando alguns dos satélites de última geração do Planeta, que fornecem resoluções ainda maiores, "podemos ver árvores individuais. Podemos ver acampamentos de exploração madeireira", disse ele. Até as lonas azuis que os mineiros colocam como telhados improvisados para proteger da chuva e do sol podem ser vistas.

Dado os altos custos dos satélites, os operadores tradicionais geralmente dependem de tecnologia comprovada que eles sabem que é confiável, mas pode não ser o mais atualizado, disse Marshall.

"Tomamos uma abordagem de risco diferente", disse ele. "Você tem mais satélites chegando, e se alguns deles falharem, não é grande coisa. Isso é o que nos permite levar a mais recente tecnologia ... e iterar rápido.

Satélites pequenos são menos caros, para serem lançados — levando a um novo modelo de pequenos foguetes projetados para serem menos caros e lançados sob demanda. A Rocket Lab, que sai da Nova Zelândia e logo sai da costa leste da Virgínia, é a líder neste mercado relativamente novo.

Ainda este ano, planeja lançar um satélite do tamanho de um painel de micro-ondas para a lua. O satélite voaria na mesma órbita ao redor da lua que a NASA espera usar para a estação espacial chamada Gateway que pretende operar lá.

Outras empresas de foguetes estão entrando rápido, incluindo a Virgin Orbit, a start-up fundada por Richard Branson.

Em vez de lançar seu foguete verticalmente a partir de uma almofada, a empresa amarra seus propulsores à asa de um avião 747 que o transporta 13.200 metros 40.000 pés. O foguete é lançado, então dispara seus motores e é desligado.

Isso dá à empresa a capacidade de lançar quase em qualquer lugar que haja uma pista — e isso é de interesse não apenas para cientistas e conservacionistas que querem obter satélites rapidamente, mas também para o Pentágono e agências de inteligência.

Após o primeiro lançamento bem-sucedido da Virgin Orbit em janeiro, o general Jay Raymond, chefe de operações espaciais da Força Espacial, parabenizou a empresa no Twitter. E Will Roper, então o principal oficial de aquisição e tecnologia da Força Aérea, tuitou que a capacidade "é um grande disruptor — e espero que um impedimento — para futuros conflitos espaciais. O equivalente a satélite de manter um ás na manga... errar, plano.”

Satélites já fornecem aviso de mísseis, GPS, comunicações e reconhecimento e guiam munições de precisão. Mas quanto menores e mais capazes eles se tornam, mais o Pentágono está interessado em usá-los.
"Esses pequenos satélites agora são uma missão crítica", disse Dan Hart, o executivo-chefe da Virgin Orbit.

Outro benefício fundamental é que, se um deles for derrubado por um adversário, "podemos muito rapidamente colocar outro, e podemos fazê-lo de qualquer lugar da Terra", disse ele. Usando um Boeing 747 como lançador, o Pentágono também poderia fazê-lo sub-repticiamente.

Grande parte do aumento de satélites em órbita foi impulsionada pela SpaceX de Elon Musk, que lançou mais de 1.000 de seus satélites Starlink no último ano ou mais. A empresa pretende colocar uma constelação de alguns milhares, cada um deles pesando cerca de 249,15 kg (ou 550 libras), que poderiam levar a Internet aos pontos mais remotos e rurais, em áreas que não são servidas pela banda larga.

No final do ano passado, a SpaceX recebeu US$ 886 milhões da Comissão Federal de Comunicações como parte de um esforço para ajudar a levar o serviço de Internet para comunidades carentes. Os prêmios trariam "boas notícias para milhões de americanos rurais não ligados que por muito tempo estiveram do lado errado da divisão digital", disse o então presidente da FCC, Ajit Pai, na época.

Várias outras empresas têm planos semelhantes.
A OneWeb, que recentemente emergiu da falência, tem mais de 100 satélites em órbita e planeja lançar centenas mais. Diz que pode construir um satélite em um dia em vez das semanas ou meses que leva para naves espaciais maiores. E custam cerca de US$ 1 milhão cada, em comparação com os US$ 150 milhões a US$ 400 milhões para satélites maiores que vivem em órbitas mais distantes, e são capazes de suportar por anos.

A Amazon planeja lançar uma constelação chamada Kuiper que colocaria cerca de 3.200 satélites. Tem até 2026 a metade do lançamento para manter sua aprovação da FCC.

Mas não é preciso mais milhões de dólares para fazer e lançar um satélite.

O Departamento de Educação está patrocinando uma competição entre escolas de ensino médio em todo o país para construir protótipos de cubesat. Recentemente, anunciou cinco finalistas cujos projetos propostos para pequenos satélites determinariam se acampamentos de sem-teto na Califórnia estão em áreas de incêndio silvestre de alto risco, estudar as diferentes maneiras de as áreas urbanas e rurais absorverem calor e determinar como o crescimento populacional de uma cidade da Carolina do Norte afeta a "qualidade do ar, uso da terra e temperatura".

Na Universidade de Michigan, a aula de engenharia do professor Brian Gilchrist trabalhou para construir um pequeno satélite que testaria usando o campo magnético da Terra para propulsão. Se fosse bem sucedido, teria permitido que pequenos satélites orbitassem a Terra sem ter que transportar combustível, permitindo que eles ficassem no alto por períodos mais longos de tempo. Era um projeto novo para a classe. "Nenhum dos alunos envolvidos neste projeto havia construído uma nave espacial antes", disse Gilchrist.

Comentário (0) Hits: 1518

Qualquer um com um iPhone agora pode fazer deepfakes

Por Geoffrey A. Fowler
Do Washington Post

Não estamos prontos para o que acontece a seguir. Vídeos realistas de pessoas fazendo coisas que nunca realmente aconteceram tornaram-se chocantemente fáceis de criar. Agora é a hora de colocar alguns guardrails, ou limites.


Fiz George Washington cantar uma “disco music“ e Marilyn Monroe me dar um beijo. Com apenas uma foto e um aplicativo para iPhone, posso criar um vídeo de qualquer rosto dizendo, ou cantando, o que eu quiser.

E agora você também pode. A tecnologia para criar "deepfakes" — vídeos de pessoas fazendo coisas que nunca aconteceram de verdade — chegou aos smartphones. É simples, divertido... e também preocupante.

Os últimos meses trouxeram avanços nesta tecnologia controversa que eu sabia que estavam por vir, mas ainda estou chocado em ver. Há alguns anos, os vídeos deepfake — nomeados após a inteligência artificial de "deep learning" usada para gerar rostos — exigiam um estúdio de Hollywood ou pelo menos um computador poderoso e louco. Então, por volta de 2020 vieram aplicativos, como um chamado Reface, que permitem mapear seu próprio rosto em um clipe de uma celebridade.

Agora, com uma única foto de origem e zero conhecimento técnico, um aplicativo para iPhone chamado Avatarify permite que você realmente controle o rosto de outra pessoa como um fantoche. Usando a câmera de selfie do seu telefone, o que quer que você faça com seu próprio rosto acontece na deles. Avatarify não faz vídeos tão sofisticados quanto pro fakes de Tom Cruise que têm voado na rede social TikTok — mas foi baixado mais de 6 milhões de vezes desde fevereiro.

Outro aplicativo para dispositivos iPhone e Android chamado Wombo transforma uma foto direta em um vídeo engraçado de música de sincronia labial. Gerou 100 milhões de clipes apenas em suas duas primeiras semanas.

E o MyHeritage, um site de genealogia, permite que qualquer pessoa use tecnologia deepfake para dar vida a fotos antigas. Faça upload de uma foto de um parente ou amigo há muito perdido, e produz um vídeo curto notavelmente convincente deles olhando ao redor e sorrindo. Até as pequenas rugas ao redor dos olhos parecem reais. Eles chamam de "Nostalgia Profunda" e reanimaram mais de 65 milhões de fotos de pessoas nas últimas quatro semanas.

Esses deepfakes podem não enganar a todos, mas ainda é um ponto de inflexão cultural para o qual não estamos prontos. Esqueça as leis para evitar que as falsificações fucem, nós quase nem temos normas sociais para essas coisas.

Todos os três serviços gratuitos mais recentes dizem que estão sendo usados principalmente para fins positivos: sátira, entretenimento e recriações históricas. O problema é que já sabemos que há muitos usos ruins para deepfakes, também.

"É tudo muito fofo quando fazemos isso com as fotos do vovô", diz a professora responsável da Universidade Estadual de Michigan, Anjana Susarla. "Mas você pode tirar a foto de qualquer uma das mídias sociais e fazer imagens manipuladas deles. Isso é o que é preocupante.

Então eu falei com as pessoas que fazem aplicativos deepfake e os especialistas em ética rastreando sua ascensão para ver se podemos descobrir algumas regras para a estrada.

"Você deve ter certeza de que o público está ciente de que isso é mídia sintética", diz Gil Perry, o CEO da D-ID, a empresa de tecnologia que alimenta os deepfakes da MyHeritage. "Temos que definir as diretrizes, os quadros e as políticas para que o mundo saiba o que é bom e o que é ruim."

A tecnologia para alterar digitalmente imagens estáticas — o software de edição do Photoshop da Adobe — existe há décadas. Mas vídeos deepfake criam novos problemas, como ser armado, particularmente contra as mulheres, para criar pornografia falsa humilhante e não consensual.

No início de março, uma mulher em Bucks County, Pa., foi presa sob alegações de que ela enviou aos treinadores de líderes de torcida de sua filha fotos falsas e vídeo de seus rivais para tentar expulsá-los da equipe. A polícia diz que ela usou tecnologia deepfake para manipular fotos de três garotas do esquadrão Victory Vipers para fazê-las parecer que estavam bebendo, fumando e até nuas.

"Há danos potenciais ao espectador. Há danos ao assunto. E então há um dano mais amplo à sociedade em minar a confiança", diz Deborah Johnson, professora emérita de ética aplicada na Universidade da Virgínia.

As redes sociais dizem que os deepfakes não têm sido uma grande fonte de conteúdo problemático. Não devemos esperar que eles se tornem um.

Provavelmente não é realista pensar que a tecnologia deepfake poderia ser banida com sucesso. Um esforço de 2019 no Congresso para proibir alguns usos da tecnologia vacilou.

Mas podemos insistir em alguns guardrails desses aplicativos e serviços de consumo, as lojas de aplicativos que os promovem e as redes sociais tornando os vídeos populares. E podemos começar a falar sobre quando é e não está bem para fazer deepfakes - inclusive quando isso envolve reanimar o vovô.

Instalando limites ou guardrails

O criador de Avatarify, Ali Aliev, um ex-engenheiro da Samsung em Moscou, disse-me que também está preocupado que os deepfakes possam ser mal utilizados. Mas ele não acredita que seu aplicativo atual causará problemas. "Acho que a tecnologia não é tão boa neste momento", ele me disse.

Isso não me deixa à vontade. "Eles se tornarão tão bons", diz Mutale Nkonde, CEO da organização sem fins lucrativos AI For the People e bolsista da Universidade de Stanford. A maneira como os sistemas de IA aprendem sendo treinados em novas imagens, ela diz, "não vai demorar muito para que essas deepfakes sejam muito, muito convincentes".

Os termos de serviço do Avatarify dizem que não pode ser usado de maneiras odiosas ou obscenas, mas não tem nenhum sistema para verificar. Além disso, o aplicativo em si não limita o que você pode fazer as pessoas dizerem ou fazerem. "Não o limitamos porque estamos procurando casos de uso — e eles são principalmente por diversão", diz Aliev. "Se formos muito preventivos, então podemos perder algo."

Hany Farid, professora de ciência da computação da Universidade da Califórnia em Berkeley, diz que já ouviu falar que o ethos de movimentos rápidos e quebras antes de empresas como o Facebook. "Se sua tecnologia vai levar a danos — e é razoável prever esse dano — acho que você tem que ser responsabilizado", diz ela.

Que guardrails podem mitigar os danos? O CEO da Wombo, Ben-Zion Benkhin, diz que os fabricantes de aplicativos deepfake devem ser "muito cuidadosos" em dar às pessoas o poder de controlar o que sai da boca de outras pessoas. Seu aplicativo está limitado a animações deepfake de uma coleção de vídeos musicais com movimentos de cabeça e lábio gravados por atores. "Você não é capaz de escolher algo que é super ofensivo ou que pode ser mal interpretado", diz Benkhin.

MyHeritage não permite que você adicione movimento labial ou vozes aos seus vídeos - embora tenha quebrado sua própria regra usando sua tecnologia para produzir um anúncio com um falso Abraham Lincoln.

Há também preocupações de privacidade sobre o compartilhamento de rostos com um aplicativo, uma lição que aprendemos com o controverso FaceApp de 2019, um serviço russo que precisava de acesso às suas fotos para usar a IA para fazer os rostos parecerem velhos. Avatarify (também russo) diz que nunca recebe suas fotos porque funciona inteiramente no telefone — mas Wombo e MyHeritage tiram suas fotos para processá-las na nuvem.

Lojas de aplicativos que distribuem essa tecnologia podem estar fazendo muito mais para estabelecer padrões. A Apple removeu o Avatarify de sua China App Store, dizendo que ela violou a lei chinesa não especificada. Mas o aplicativo está disponível nos Estados Unidos e em outros lugares — e a Apple diz que não tem regras específicas para aplicativos deepfake, além de proibições gerais de conteúdo difamatório, discriminatório ou mesquinho.

Rótulos ou marcas d'água que deixam claro quando você está olhando para um deepfake pode ajudar, também. Todos esses três serviços incluem marcas d'água visíveis, embora o Avatarify os remova com uma assinatura premium de US$ 2,50 por semana.

Melhor ainda seriam marcas d'água escondidas em arquivos de vídeo que poderiam ser mais difíceis de remover, e poderiam ajudar a identificar falsificações. Todos os três criadores dizem que acham que é uma boa ideia — mas precisam de alguém para desenvolver os padrões.

As redes sociais, também, desempenharão um papel fundamental para garantir que os deepfakes não sejam usados para doenças. Suas políticas geralmente tratam deepfakes como outros conteúdos que desinformam ou podem levar as pessoas a se ofenderem: a política do Facebook e do Instagram é remover a "mídia manipulada", embora tenha uma exceção para paródias.

A política do TikTok é remover "falsificações digitais" que enganam e causam danos ao tema do vídeo ou da sociedade, como informações de saúde imprecisas. A política de "práticas enganosas" do YouTube proíbe conteúdo tecnicamente manipulado que engane e possa representar um sério risco.

Mas não está claro o quão bom é o trabalho que as redes sociais podem fazer para impor suas políticas quando o volume de deepfakes dispara. E se, digamos, um aluno fizer uma piada maldosa de seu professor de matemática - e então o diretor não entender imediatamente que é uma farsa? Todas as empresas dizem que continuarão avaliando suas abordagens.

Uma ideia: as redes sociais poderiam reforçar os guardrails fazendo uma prática de rotular automaticamente deepfakes — um uso para essas marcas d'água escondidas — mesmo que não seja imediatamente óbvio que eles estão causando danos. Facebook e Google têm investido em tecnologia para identificá-los.

"O fardo aqui tem que ser sobre as empresas e nosso governo e nossos reguladores", diz Farid.

Novas normas

Quaisquer que sejam os passos que a indústria e o governo tomam, deepfakes também são onde a tecnologia pessoal atende à ética pessoal.

Você pode não pensar duas vezes antes de tirar ou postar uma foto de outra pessoa. Mas fazer um deepfake deles é diferente. Você está transformando-os em um fantoche.

"Deepfakes brincam com identidade e agência, porque você pode assumir outra pessoa - você pode fazê-los fazer algo que eles nunca fizeram antes", diz Benkhin, de Wombo.

Nkonde, que tem dois adolescentes, diz que as famílias precisam falar sobre normas em torno desse tipo de mídia. "Acho que nossa norma deve ser perguntar às pessoas se você tem sua permissão", diz ela.

Mas isso pode ser mais fácil dizer do que fazer. Criar um vídeo é um direito de liberdade de expressão. E obter permissão nem sempre é prático: um grande uso dos aplicativos mais recentes é surpreender um amigo.

A permissão para criar um deepfake também não é inteiramente o ponto. O que mais importa é como eles são compartilhados.

"Se alguém da minha família quiser tirar minha foto de infância e fazer esse vídeo, então eu ficaria confortável com ele no contexto de um evento familiar", diz Susarla. "Mas se essa pessoa está mostrando isso fora de um círculo familiar imediato, isso tornaria uma proposta muito desconfortável."

A Internet é ótima em tirar as coisas do contexto. Uma vez que um vídeo esteja online, você pode perder rapidamente o controle sobre como ele pode ser interpretado ou mal utilizado.

Então há uma questão mais existencial: como os deepfakes nos mudarão?

Descobri aplicativos deepfake como uma maneira de brincar com meu sobrinho, animando nossas conversas zoom fazendo com que ele parecesse que ele está fazendo coisas patetas.

Mas então comecei a me perguntar: o que estou ensinando a ele? Talvez seja uma lição de vida útil saber que até mesmo vídeos podem ser manipulados - mas ele também vai precisar aprender a descobrir no que deve confiar.

Aliev, do Avatarify, diz que quanto mais cedo todos aprenderem que os vídeos podem ser falsificados, melhor será. "Acho que a abordagem certa é fazer dessa tecnologia uma mercadoria como o Photoshop", disse ele.

Eticistas não têm tanta certeza.

"O que realmente me preocupa é o que você viu acontecer nos últimos anos, onde qualquer fato que seja inconveniente para um indivíduo, um CEO, um político, eles só têm que dizer que é 'falso'", diz Farid.

E correndo o risco de parecer óbvio: não queremos perder de vista o que é real. Algumas pessoas têm compartilhado nas redes sociais que reanimar os mortos com os vídeos de MyHeritage os fez chorar de alegria. Simpatizo com isso. D-ID diz que, em sua própria análise, apenas 5% dos tweets sobre o serviço foram negativos.

Mas quando tentei com a foto de um amigo que morreu há alguns anos, não me senti nada bem. Eu sabia que meu amigo não se movia assim, com o alcance limitado desses maneirismos gerados por computador.

“Eu realmente quero essas pessoas e essa tecnologia mexendo com minhas memórias?”, diz Johnson, o U-Va. Eticista. “Se eu quero fantasmas na minha vida, eu quero os reais.”

Deepfakes também são uma forma de engano que estamos usando em nós mesmos.

Comentário (0) Hits: 3980

newsletter buton