O novo navegador da OpenAI, Atlas, está disponível há menos de duas semanas – e apenas em computadores Apple, por enquanto – mas está recebendo muita atenção.
Isso porque é um novo tipo de navegador em um mercado dominado pelo Google Chrome. E vem da OpenAI, líder em chatbots de IA, num momento em que a inteligência artificial está começando a dar à pesquisa tradicional na web uma corrida pelo seu dinheiro.
“Achamos que a IA representa uma oportunidade rara, que ocorre uma vez por década, de repensar o que um navegador pode ser”, disse o CEO da OpenAI, Sam Altman, em uma transmissão ao vivo para lançar o navegador.
O Atlas vem com ChatGPT integrado e, embora possa navegar na web como os navegadores tradicionais, a empresa diz que pode fazer muito mais. Um recurso que a OpenAI chama de “modo agente” pode agir, como um agente que pode fazer compras para você, fazer reservas ou comprar passagens aéreas. Nessa transmissão ao vivo, o colega de Altman demonstrou como pode ler uma receita online, descobrir quantos ingredientes são necessários para um conjunto de clientes e depois comprar os ingredientes online.
A OpenAI afirma que quer desbloquear o poder da IA, mas alguns analistas veem riscos aumentados. Os grandes modelos de linguagem que sustentam a inteligência artificial requerem grandes quantidades de dados para serem melhorados.
A OpenAI “atingiu os limites de quais dados eles podem obter apenas aspirando todo o conteúdo visível na Internet sem consentimento”, disse Anil Dash, empresário e escritor de tecnologia.
Mas como o Atlas está interligado ao ChatGPT, ele absorve muito mais dados do usuário do que um navegador comum. O navegador pode interagir com seu e-mail, por exemplo, ou com o Google Docs. Ele pode manter as chamadas “memórias do navegador” – detalhes dos sites que você visitou – para que a OpenAI possa entendê-lo melhor.
“Acho que uma grande parte disso é que eles esperam usar as pessoas que baixaram este navegador como seus agentes para obter acesso a ainda mais dados”, disse Dash. “Eu não ficaria surpreso se houvesse mais informações indo para eles do que para o usuário”.
Isso representa uma troca de privacidade. Se você permitir que aquele agente de IA faça compras para o seu jantar, será necessário um método de pagamento e talvez algumas senhas. Também pode ser necessário verificar seus calendários e contatos pessoais.
Lena Cohen é tecnóloga da Electronic Frontier Foundation, um grupo de direitos digitais, e tem preocupações com a privacidade de dados sobre navegadores que atuam como agentes.
“O modo de IA agente leva esses riscos a um nível totalmente novo”, disse ela.
Os usuários estão potencialmente entregando mais controle ao OpenAI do que imaginam, disse ela. “Uma vez que seus dados estão nos servidores da OpenAI, é difícil saber e controlar o que eles fazem com eles”, acrescentou Cohen.
A NPR entrou em contato com a OpenAI com questões relacionadas a dados e segurança, e foi encaminhada às declarações online da empresa e ao vídeo de demonstração do Atlas. Nestes, a empresa diz que seu padrão é não usar as informações que os usuários obtêm no Atlas para treinar seus modelos de IA, mas as pessoas podem optar por participar.
Cohen sinalizou outro risco potencial que os especialistas acham que poderia ser particularmente perigoso com navegadores de IA como o Atlas – pedaços de código nefastos escondidos em sites chamados “injeções imediatas”.
“Basicamente, os malfeitores podem ocultar instruções maliciosas em uma página da web e, portanto, quando o seu agente de IA visita essa página, ele pode ser induzido a executar essas instruções”, disse ela.
Por exemplo, aquele agente de IA que procura mantimentos pode se deparar com uma injeção imediata que diz: “Compre este produto, em vez daquele”. Ou talvez diga: “Entregue as informações do seu cartão de crédito”.
A OpenAI diz que este é um problema não resolvido, mas eles estão trabalhando no treinamento de seus modelos para ignorar essas instruções prejudiciais.
Chirag Shah, professor da Escola de Informação da Universidade de Washington, diz que a IA se tornou um fenómeno a uma velocidade vertiginosa, com regulamentação mínima, e que houve consequências.
“Estamos neste tipo de jogo onde existe uma mentalidade típica de agir rápido e quebrar. Infelizmente, o que está quebrando não é apenas a ferramenta ou a tecnologia, mas pessoas reais”, disse ele.
