Perguntas e respostas: podemos confiar na IA?

No campo da inteligência artificial, há invernos e primaveras – períodos estéreis seguidos por explosões emocionantes de inovação e financiamento. No momento, nos encontramos definitivamente no meio de uma primavera de IA, diz Rama Chellappa, engenheiro da Johns Hopkins, um veterano da indústria há mais de quatro décadas.

“A IA tem uma vida louca em que passa por ciclos”, diz Chellappa, professor distinto da Bloomberg em engenharia elétrica, informática e biomédica. “Alguns dos algoritmos que estamos usando hoje existem desde a década de 1960, mas o que está acontecendo agora é devido à explosão de dados que temos disponíveis para conduzir nossos sistemas”.

Chellappa diz que respeita todas as apreensões em torno da IA ​​– preocupações com privacidade e hackers, dilemas éticos, evidências absolutas de seus preconceitos e, claro, “o cenário de robôs chegando e matando todos nós de Hollywood”, diz ele rindo.

A razão pela qual ele escreveu seu livro, “Podemos confiar na IA?” com o co-autor Eric Niller, diz ele, foi abordar esses desafios, ao mesmo tempo em que apontava para o “positivo líquido” geral que ele acredita que a IA pode trazer para a sociedade humana. “Esta tecnologia deve apenas nos ajudar a melhorar a nós mesmos e melhorar nossa qualidade de vida”, diz ele.

Publicado pela JHU Press em novembro de 2022, o livro percorre o campo da IA ​​desde suas origens pós-Segunda Guerra Mundial, passando pela revolução do computador nas décadas de 1960 e 1970 até nossa atual “primavera da IA”, já que o mercado global para empresas de IA está previsto para top $ 228 bilhões até 2026. Chellappa relata suas próprias experiências nos primeiros dias de aprendizado de máquina e visão computacional, compartilha a sabedoria de colegas especialistas e espera usos promissores na medicina, carros autônomos e segurança pública, entre outras áreas.

Recém-eleito para a Academia Nacional de Engenharia, Chellappa, afiliado ao Center for Imaging Science, ao Center for Language and Speech Processing, ao Institute for Assured Autonomy e ao matemático Institute for Data Science, conversou recentemente com o Hub sobre sua livro, seu trabalho atual em IA e o que ele pensa sobre Alexa.

Em seu livro, você diz que a IA está na ‘fase infantil’ agora. O que você quer dizer com isso?

É claro que, em muitas aplicações, a IA pode ir além de uma criança, mas estou me referindo às suas capacidades de raciocínio. Curiosamente, a IA em seus primeiros anos foi impulsionada pelo conhecimento de domínio e pelas capacidades de inferência. Os designs atuais de IA, que são principalmente impulsionados por “big data”, parecem ter alterado o raciocínio e o conhecimento de domínio necessários para a tomada de decisões.

Leva um tempo para o ser humano desenvolver um raciocínio de bom senso, certo? Você aprende com a experiência. Crianças de dois anos aprendem com exemplos – você mostra a elas como é uma xícara, elas podem identificar outras xícaras. A IA pode fazer isso, mas precisará de muito mais dados. Se você perguntar a uma criança de dois anos onde está o copo e colocar uma toalha sobre ele, a criança provavelmente puxará a toalha e dirá: “Aí está!” AI pode não necessariamente fazer isso com a mesma eficiência ainda. As crianças também podem imaginar, fazer inferências e comparações. Embora os modelos generativos de IA sejam capazes de sintetizar novas imagens, vídeos, texto e linguagem, os humanos são muito melhores em imaginar cenários “e se”.

Os sistemas de IA estão ficando mais inteligentes, no entanto, com o que chamamos de aprendizado autossupervisionado, e eles estão aprendendo a fazer esse tipo de conexão.

Como você usa a IA em sua própria vida diária? Por exemplo, você usa Alexa?

Acho que esses dispositivos são interessantes, mas realmente qualquer informação que eu preciso posso encontrar na web. Um dos meus ex-alunos me deu um Google Home e eu meio que brinquei com ele, tocando música e tudo mais. Meu filho tem Alexa e fazemos perguntas.

Mas em termos de IA que estou usando, eles são os sistemas que agora estão integrados naturalmente em todas as nossas experiências na web e nos smartphones. Por exemplo, quando você compra um livro na Amazon e ela recomenda livros semelhantes de que você pode gostar, ou quando você assiste a três filmes do mesmo gênero na Netflix e ela segue o padrão. O mapa do Google que uso o tempo todo é baseado em um algoritmo clássico de pesquisa de IA. Algumas pessoas desconfiam desse tipo de coisa, dizendo: “Ah, não, está me rastreando e me controlando”, mas na verdade são apenas sugestões. Eles não estão forçando você a assistir a algo ou a sacar seu cartão de crédito.

Em que tipo de projeto de IA você e sua equipe estão trabalhando agora na Hopkins?

Estamos abordando a IA de vários ângulos diferentes. Estamos trabalhando para proteger a IA de ataques adversários. Estamos projetando algoritmos que garantirão que os vieses sejam reduzidos. Estamos trabalhando em aplicativos baseados em IA para várias facetas da medicina – interagindo com o Center for Autism e uma unidade de câncer, por exemplo, e trabalhando em problemas relacionados à patologia, envelhecimento saudável e oftalmologia.

Também estamos analisando alguns problemas tradicionais de visão computacional — fazendo o reconhecimento facial ou humano funcionar a até mil metros. E não são apenas rostos, estamos procurando melhorar o reconhecimento do corpo e da marcha, como a maneira como as pessoas andam.

Outro novo projeto no qual estarei envolvido é modelar vários locais do mundo e visualizá-los em vários momentos do dia ou em diferentes estações do ano, o que pode ser útil para missões de resgate ou coisas dessa natureza.

Em colaboração com o Applied Physics Laboratory, estamos explorando a eficácia de dados sintéticos – dados gerados artificialmente que imitam cenários do mundo real – no projeto de sistemas de IA. Os dados sintéticos não precisam ser anotados à medida que os geramos e reduzem bastante as preocupações com a privacidade. Mais importante, permitirá que a IA imagine melhor e generalize bem para novos ambientes e situações. Como gosto de dizer, os sensores só podem captar o que aconteceu; dados sintéticos podem refletir cenários “e se”, levando a sistemas de IA generalizáveis. Como um praticante vitalício de abordagens generativas para visão computacional, estou entusiasmado com essa possibilidade. No entanto, não podemos deixar que a imaginação vá à loucura e afete a integridade de nossos sistemas de IA.

Você pode falar mais sobre como a IA pode ajudar no envelhecimento? Sei que você faz parte do AI & Tech Collaboratory for Aging Research na Hopkins.

Este grupo é financiado pelo National Institute on Aging, reunindo conhecimentos clínicos e de engenharia. A premissa básica é colocar dispositivos e sistemas úteis de IA nas mãos de idosos e seus cuidadores, para melhorar a qualidade de vida, a segurança e a longevidade. Por exemplo, estamos imaginando robôs que possam interagir com pacientes com deficiências cognitivas, demência ou Alzheimer e ajudá-los em suas tarefas diárias. Estamos explorando o uso do Alexa para administrar testes cognitivos em casa e o uso do Apple Watches para fornecer alertas de possíveis quedas ou devaneios.

Esse é um dos grandes motivos pelos quais vim para a Hopkins, com a ideia de explorar a IA e o aprendizado de máquina para a medicina, e estou muito empolgado com as colaborações que estão acontecendo.

Desde que seu livro foi lançado, vimos a explosão do ChatGPT. O que você acha do hype em torno disso e onde você vê esse rumo tecnológico?

ChatGPT é o desenvolvimento mais recente no que é conhecido como modelos de linguagem grandes. Embora o ChatGPT seja um marco importante, devemos ter cuidado com a forma como ele está sendo usado. Existem muitos exemplos agora de como o ChatGPT apenas inventa coisas! Isso é preocupante. Espero que com mais treinamento, veremos melhorias.

Por que você acredita, como diz em seu livro, que a IA terá um impacto líquido positivo na sociedade?

Como humanos, temos que tomar muitas decisões e a IA pode ajudar a aliviar a carga.

Deixe-me dar um exemplo da medicina. Chegaremos a um ponto em que a IA poderá examinar de forma abrangente todos os nossos registros eletrônicos de saúde e imagens de diagnóstico, todos os medicamentos que tomamos e até mesmo processar nossas conversas de paciente para médico. E isso criará um perfil muito personalizado que pode nos ajudar a monitorar nossa saúde, alertar os médicos sobre nossas necessidades individuais e prever possíveis problemas no futuro.

Vejamos os carros autônomos. O carro totalmente automatizado é considerado o objetivo final, e estamos aquém disso, mas, enquanto isso, estamos desenvolvendo muitos recursos diferentes para nos ajudar – câmeras mostrando o que está atrás de nós quando damos ré, alertas de carros em faixas adjacentes, etc. Esses recursos acabarão por levar a menos acidentes e menos mortes.

Portanto, acho que a IA pode ser uma espécie de amiga ao seu lado, e cabe a nós determinar quanta ajuda precisamos dela. Você sabe, às vezes nossos amigos na vida real não se comportam bem. A IA também pode cometer erros – é um algoritmo e só pode fazer o que lhe ensinamos a fazer.

Essa ideia de que a IA pode enlouquecer e se tornar um monstro ou exterminador é principalmente coisa de Hollywood, mas também conheço algumas pessoas sérias de IA que também acham esse tipo de cenário crível. Pessoalmente, com as tecnologias que conhecemos agora, simplesmente não vejo nada disso acontecendo.

Então, para responder à pergunta que seu título faz, ‘Podemos confiar na IA?’, sua resposta é:

É um sim. (risos) É um sim qualificado.

Eu gosto de dizer, não vamos falar sobre humanos versus IA. Vamos falar sobre humanos e IA. Podemos identificar problemas e trabalhar para melhorá-los. Podemos fazer a IA trabalhar para nós e conosco.