1. Bots de negociação de IA podem derrubar o mercado de ações
À medida que os sistemas de IA se tornaram mais capazes, o mercado de ações viu um aumento maciço na negociação de bots. Esses bots usam algoritmos complexos para apostar em ações, comprando e vendendo em nome de seus clientes com base nas flutuações do mercado.
Mas esses bots são relativamente simples, contando com a lógica if-then para fazer suas negociações (via Investopedia), tornando-os fáceis de prever. Os modelos de IA da geração atual são muito mais complexos e, portanto, imprevisíveis. Se implantados em escala pelos traders, eles poderiam facilmente causar grandes choques no mercado. Por exemplo, imagine que muitos traders usam uma plataforma de IA que decide, com base em uma alucinação, que as ações da Kellogg’s estão prestes a despencar e vende esse ativo para todos os seus usuários enquanto compra ações da General Mills, imediatamente jogando o mercado de cereais matinais no caos.
Embora este seja um dos cenários menos prováveis – qualquer indício de tal crise provavelmente levará a uma resposta rápida dos órgãos reguladores – quase sem dúvida será tentado por alguns atores em alguma escala. Só podemos esperar que essas agências reguladoras estejam se preparando para isso agora.
2. IA pode tornar a pesquisa na Internet inútil
O Bing ganhou as manchetes ao integrar uma versão do ChatGPT em seu mecanismo de busca. Ninguém esperava o quão abalado o Google ficaria, seguindo de perto com o anúncio do Google Bard. Essas empresas acreditam que a IA é o futuro da pesquisa, mas pode ser o fim com a mesma rapidez.
Os sites que dependem de visitas à página para obter receita com anúncios podem agora ter seu conteúdo saqueado por bots que fornecem as informações diretamente aos usuários, cortando seu fluxo principal de receita. Isso levaria a um colapso maciço do mercado de publicidade digital. Sites menores seriam os primeiros a cair, mas gigantes como o Facebook poderiam ir com eles. Quando questionado sobre isso em entrevista ao The Verge, o CEO da Microsoft, Satya Nadella, disse pouco sobre como evitar tal cenário. No entanto, ele disse que a Microsoft considerou isso.
Mesmo que a funcionalidade principal dos mecanismos de pesquisa permaneça intacta durante essa mudança, a IA generativa ainda pode torná-los inúteis. A Internet já está cheia de cópias de SEO com spam, e é por isso que você deve percorrer histórias intermináveis, principalmente inventadas, sobre receitas de família antes de poder ler a receita que você pesquisou no Google. E nenhum ser humano pode atingir metas de SEO com a precisão de uma IA, o que significa que esse texto indesejado pode aumentar rapidamente na Internet, arruinando seus resultados de pesquisa.
Não está claro como as empresas de pesquisa responderiam a essa crise, especialmente porque parecem empenhadas em encaminhar a mesma tecnologia que poderia provocá-la.
3. IA pode tornar a internet inutilizável
Atualmente, os modelos de linguagem de IA generativa estão sendo treinados em toda a Internet, que é principalmente baseada em texto. Esses modelos, então, cuspiram um novo texto que é ostensivamente deles. Com texto AI recém-gerado suficiente, pode não demorar muito para que a maior parte da Internet seja preenchida com papagaios estocásticos.
O problema já está aparecendo. Neil Clarke, editor da famosa revista de ficção científica Clarkesworld, já viu um aumento maciço no envio de histórias geradas por IA, forçando-o a vasculhar inúmeras histórias escritas por máquinas e diminuindo seu tempo de resposta.
Já é difícil o suficiente usar a Internet sem encontrar bots e spam de SEO, junto com muitos textos estúpidos gerados por humanos reais. Adicione uma quantidade quase infinita de texto de IA a essa mistura (e as inevitáveis quantidades de spam geradas como parte dessa equação) e pode se tornar tão difícil encontrar algo de valor online que toda a Internet se tornará fundamentalmente inutilizável. Matthew Kirschenbaum, professor de estudos digitais na Universidade de Maryland, adverte sobre esse cenário exato no The Atlantic, escrevendo: “Todos esses fenômenos, para não falar do spam de Viagra que costumava ser um incômodo, são funções do texto – mais texto do que podemos imaginar ou contemplar, apenas as mais meras lascas já vislumbradas pelo globo ocular humano, mas que obstruem servidores, cabos de telecomunicações e centros de dados, no entanto.”
4. IA pode acelerar as mudanças climáticas
A humanidade enfrenta uma ameaça existencial de mudança climática, e nosso tempo está se esgotando para reverter as emissões de carbono antes que o pior cenário aconteça. A IA, com a capacidade de entender pontos de dados complexos e díspares, pode ser uma ferramenta crucial na inovação de novas soluções para evitar o pior do desastre. Mesmo agora, pode ajudar a tornar empresas inteiras mais eficientes em termos de energia, identificando práticas de desperdício e automatizando o uso de energia. No entanto, também pode nos acelerar ainda mais no caminho da destruição.
A IA pode nos ajudar a economizar recursos, mas usa grandes quantidades de energia para funcionar. À medida que os modelos de IA crescem cada vez mais, seu uso de energia cresce com eles. Alguns modelos de IA atuais consomem tão pouca energia quanto é necessário para alimentar um telefone celular para se treinar, enquanto outros usam o equivalente anual de uma família média dos Estados Unidos em uma única sessão de treinamento (via The New Stack).
Antes de correr para a adoção em massa da IA, como vimos a indústria de tecnologia tropeçar em si mesma nos últimos meses, pode valer a pena dedicar algum tempo para descobrir a maneira mais eficiente de fazer isso.
5. A IA pode levar a um maior controle de nossas vidas por grandes tecnologias e governos
Agora que vimos os impactos das mídias sociais, entendemos que as empresas que nos permitiram nos conectar com o mundo também aproveitaram nossos dados para construir impérios. Google, Facebook e outros passaram anos estudando nossos hábitos para monetizá-los e manipularam intencionalmente nossas emoções para nos manter rolando (via NBC). Agora que a IA está finalmente entrando no mainstream, suas capacidades apenas ampliam as empresas que desejam exercer mais influência sobre nossas vidas para seu ganho.
Da publicidade, que agora pode aparecer dentro de um bloco de texto gerado no Bing, às casas inteligentes, que podem examinar nossos hábitos de vida, a IA pode ser a próxima fronteira para a privacidade. Enquanto isso, o governo dos EUA fica mais interessado em amordaçar as grandes empresas de tecnologia, possivelmente forçando-as a entregar dados privados. Suponha que a tão debatida Lei RESTRICT seja transformada em lei. Nesse caso, pode ser do interesse financeiro das empresas de tecnologia formar laços mais profundos com o governo, dando maior acesso a dados privados para obter favores.
A IA está avançando rápido demais para sabermos a que distância da curva de progresso estamos. Os enormes saltos vistos com o ChatGPT podem ser anomalias ou o início de uma nova Lei de Moore. De qualquer forma, esses programas são mais do que capazes de causar danos tangíveis em grande escala. Mesmo que nos beneficiemos de suas capacidades notáveis, devemos conhecer esses perigos.