Altman reconheceu, no entanto, que há motivos para
temer a IA, diante da rapidez com que ferramentas com essa tecnologia têm
avançado.
"Não precisamos de tanta imaginação como antes
para [nós] imaginarmos como isto poderia correr mal", disse Altman.
"Acho que o mundo tem razão em ter medo disso."
Foi a primeira vez que Altman falou publicamente
desde que duas publicações de pesquisadores da Anthropic (responsável
pela ferramenta Claude) viralizaram na semana passada. Uma delas era de Jacob Coxon,
que deixou a empresa; a outra, de Evan Hubinger, cientista da Anthropic, que
afirmou que, sem controle, a IA poderia matar todos os
seres humanos até o fim da década.
Alguns executivos e especialistas em IA disseram
concordar com a avaliação apocalíptica, mas não explicaram como chegaram a essa
conclusão nem de que maneira a tecnologia poderia provocar esse resultado
catastrófico.
A repercussão das declarações aumentou, nos últimos
dias, a atenção sobre a forma como a IA vem sendo desenvolvida. Diante disso, o
presidente-executivo da Anthropic, Dario Amodei, defendeu que o ritmo de
desenvolvimento da tecnologia seja reduzido e pediu que governos regulamentem o
setor.
A publicação de Amodei recebeu o apoio de Altman,
de Demis Hassabis, cofundador da DeepMind, do Google, e de Elon Musk, dono da
rede social X e do assistente de IA Grok.
Até terça-feira, outros dirigentes do setor também
passaram a defender que as próprias empresas estabeleçam controles sobre o
desenvolvimento da tecnologia, em vez de deixar essa tarefa a cargo dos
governos.
Altman afirmou acreditar que empresas como a OpenAI
são capazes, em essência, de se autorregular.
"Vamos fazer isso direito. Tenho muita
confiança na capacidade da nossa empresa e do setor de fazer isso com
segurança", disse. Segundo Altman, as empresas manterão "o
alinhamento [em resumo, alinhar a IA com os valores humanos] e a segurança
muito à frente das capacidades" e, caso não consigam, "vão
desacelerar ou parar".
Apesar das declarações, políticos fizeram ressalvas
à possibilidade de o próprio setor estabelecer seus controles.
Em Washington D.C., capital dos EUA, nomes
importantes ao longo do espectro político americano defenderam maior controle
sobre o desenvolvimento de ferramentas de IA, incluindo o senador independente
Bernie Sanders, um dos mais influentes políticos de esquerda dos EUA, e Steve
Bannon, ex-assessor de Donald Trump (Partido Republicano) e um dos principais
nomes da direita americana.
Sanders, senador independente por Vermont que
costuma votar com o Partido Democrata (de oposição ao governo Trump), afirmou
que as decisões sobre o desenvolvimento da IA têm sido tomadas por "um
punhado das pessoas mais ricas do mundo". Ele citou, entre outros, Musk,
Mark Zuckerberg, o presidente-executivo da Meta, e Jeff Bezos, o fundador da
Amazon.
"As pessoas deste país precisam tomar as
decisões sobre a IA, e não apenas um punhado de oligarcas", disse Sanders
durante uma conferência em Washington D.C.
Bannon, que foi estrategista da Casa Branca durante
o primeiro mandato de Trump, também questionou a capacidade do setor de
tecnologia de se autorregular.
"Nunca podemos confiar no que diz um oligarca
porque... eles são dissimulados e mentem", afirmou Bannon na mesma
conferência.
Após as declarações de Altman, Zuckerberg, da Meta,
escreveu na rede social X que todos os laboratórios de IA têm condições e
incentivos para "tomar as suas próprias medidas" na criação de
ferramentas e modelos de IA desenvolvidos com foco em segurança.
"Qualquer laboratório que não priorizar o
alinhamento ficará para trás", escreveu Zuckerberg. "Os laboratórios
podem enfrentar uma responsabilização significativa se seus modelos causarem
danos, por isso também têm fortes incentivos para evitar que isso
aconteça."
Jensen Huang, presidente-executivo da fabricante
Nvidia, também afirmou, na mesma conferência de terça-feira, que deve caber às
empresas de IA decidir se novas versões da tecnologia serão lançadas, sem que
essa decisão fique sujeita a interferências externas.
"Não precisamos de novas leis ou
regulamentações", disse Huang. Para ele, não deveria haver uma "falsa
escolha" entre a velocidade da inovação e a segurança dos produtos de IA.
A Nvidia é a empresa de maior valor de mercado do
mundo. Seus lucros dispararam com a forte demanda pelos chips de computação
para IA que fabrica.
"A segurança é primordial. No entanto,
segurança é um problema de engenharia", disse Huang.
Ele acrescentou que, se em algum momento o chefe de
uma empresa de IA não estiver confiante em seu produto, deve optar por não
lançá-lo.
"É uma decisão bastante óbvia", disse
Huang. "Avance o mais rápido que puder, mas, se em algum momento sentir
que a instituição perdeu o controle, faça uma pausa."
Alguns nomes do setor afirmaram que a nova onda de
temor em relação à IA é exagerada e vem sendo explorada para aumentar a atenção
em torno da própria indústria.
Durante essa mesma conferência, Altman falou diante
de centenas de empresários que eles deveriam usar ferramentas de IA para
auxiliar no trabalho, mas afirmou também que essas tecnologias seriam
necessárias para proteger as empresas de possíveis ataques cibernéticos
facilitados pela IA.
A ideia de deixar os executivos do setor de IA
inteiramente responsáveis por estabelecer as próprias regras é vista com
preocupação por algumas pessoas da indústria.
Jack Clark, executivo e cofundador da Anthropic (da
ferramenta Claude), disse à BBC na segunda-feira (14/9) que deixar a IA como
uma "indústria totalmente sem regulamentação" seria "apostar
diante de riscos imensos".
Patrick Hillman, diretor de operações da Logical
Intelligence, empresa presidida por Yann LeCun, uma figura veterana e respeitada
do setor de IA, observou na terça-feira que há pouca confiança de que empresas
de tecnologia ajam de fato em nome do interesse público.
"A única instituição em que os americanos
talvez confiem menos do que em Washington D.C. hoje em dia é o Vale do Silício.
Trabalhei e vivi nos dois lugares e garanto que ambos conquistaram esse
ceticismo", disse Hillman. "Se vocês acreditam que o que estão
construindo é perigoso, mostrem o que estão dispostos a deixar de fazer."
Dirigentes da OpenAI e da Anthropic afirmaram que
começaram a trabalhar recentemente por algum tipo de acordo de segurança que
envolva todo o setor.
Durante uma breve participação na conferência, na
terça-feira, Amodei disse que a Anthropic está agora "em diálogo com o
restante da indústria" para discutir compromissos com padrões de segurança
mais rigorosos e com mais mecanismos de verificação para ferramentas de IA e
para o desenvolvimento da tecnologia.
Amodei afirmou ainda que uma das maiores surpresas
do avanço da IA não foi a evolução da tecnologia em si, mas seu impacto mais
amplo. "Não percebemos que isso faria as empresas crescerem tão
rapidamente nem a velocidade com que elas passariam a ocupar um papel
central."
Na semana passada, o executivo da OpenAI Chris
Lehane afirmou que a empresa também estava trabalhando com outros laboratórios
de IA "para promover padrões para os sistemas de IA de ponta, por meio de
uma iniciativa voluntária, com ou sem o apoio dos governos". Entre esses
laboratórios estão a Anthropic e o Google DeepMind.
"Com tanto em jogo, não podemos deixar que o
perfeito seja inimigo do bom", escreveu Lehane.
(Fonte: BBC)
Nenhum comentário:
Postar um comentário