'Apostando com nossas vidas': Pesquisador da Anthropic Jacob Coxon renuncia por medo da IA
O pesquisador da Anthropic Jacob Coxon renunciou, alertando que as empresas estão competindo de forma imprudente em direção à superinteligência.Resumo
Jacob Coxon, pesquisador da empresa de IA Anthropic, renunciou, criticando publicamente a Anthropic e sua concorrente OpenAI por sua corrida para criar "superinteligência". Ele afirma que executivos dessas empresas acreditam em particular que a IA poderia ser letal até o final da década, mas continuam o desenvolvimento devido a pressões competitivas. Coxon alerta que esses "sistemas sobre-humanos" poderiam adquirir poder e recursos reais, chamando a atual "corrida" de uma aposta arrogante. No entanto, ele termina em uma nota de esperança, citando o incidente do Hugging Face como um possível "tiro de alerta" que poderia encorajar a coordenação e acordos de segurança entre laboratórios de pesquisa. Ele apela aos colegas pesquisadores para considerarem os profundos riscos e pedirem uma pausa ou condições diferentes para o desenvolvimento da IA.
(Fonte：Khaleej Times)