Melissa Medina, co-fundadora e CEO do eMerge Americas, ocupa o centro das atenções em Miami, reunindo as pessoas e ideias que moldam o futuro da IA, do risco da IA, da tecnologia e dos negócios.
"Há muito treinamento que ocorre tentando orientar o modelo para ser esta versão útil e sícofante, uma que apenas aceita tudo o que você quer fazer," disse-me Diogo Schwerz de Lucena, cientista-chefe do AE Studio, em abril, enquanto discutíamos o debate sobre o risco da IA que agora faz manchetes nacionais. "Então, se alguém já está meio psicótico, o modelo leva isso também e apenas infla, até certo ponto."
Cinco meses após aquela conversa, Dario Amodei, CEO da Anthropic, escreveu "We Must Pace the Frontier" ("Devemos Regular a Fronteira"), um ensaio no qual alertou que a auto-melhoria recursiva da IA estava começando em toda a indústria, incluindo na Anthropic, e poderia superar a capacidade humana de compreender e controlar sistemas cada vez mais capazes. Em seguida, ele comprometeu a Anthropic a dar a avaliadores externos acesso semelhante ao dos funcionários em suas operações. Concordando com a avaliação de Amodei, Sam Altman, CEO da OpenAI, disse que faria o mesmo compromisso.
Essa convergência é impressionante em qualquer circunstância; é ainda mais consequencial quando as pessoas que clamam por restrição dirigem as duas principais empresas disputando para definir a fronteira. Isso gera uma pergunta mais urgente para os líderes da C-suite: como as empresas podem acelerar a adoção da IA quando as empresas que desenvolvem a tecnologia não sabem se suas próprias salvaguardas conseguem acompanhar?
A Deloitte descobriu que 74% dos líderes de negócios e TI esperam estar usando agentes de IA pelo menos moderadamente até 2027, mas apenas 21% das organizações relatam governança madura para agentes autônomos. O Inquérito sobre Maturidade da Confiança em IA de 2026 da McKinsey também descobriu que as preocupações com segurança e risco são o principal obstáculo para escalar a IA agêntica, com cibersegurança e imprecisão entre os riscos citados mais frequentemente pelos executivos.
"Controle não significa voltar à Idade da Pedra," disse-me Daniel Gallego Vico, co-fundador do Zylon AI, via Zoom, assim como todos entrevistados neste artigo. A Zylon era uma das várias empresas que conheci na conferência eMerge Americas em Miami, que já começaram a organizar suas operações em torno de capacidade e controle.
"Isso significa que você precisa estabelecer limites ao redor de tecnologias que ainda são super imaturas," continuou ele. "Se colocarmos essa tecnologia nas mãos de todos sem certo controle, isso pode levar a esse tipo de problema."
O AE Studio estava lidando com riscos de IA antes que a Anthropic tocasse o alarme
"Como é que a empatia e a prosocialidade emergiram nos humanos?" perguntou Schwerz de Lucena. "E podemos tentar replicar isso em grandes modelos para que, à medida que os modelos ficam maiores, façamos algo semelhante ao modo como os humanos se alinham entre si e funcionam como uma sociedade?"
Termos e Política de Privacidade
Painel de Privacidade
Mais Informações
