Plano de OpenAI pixpet apostas se tornar uma empresa lucrativa pode encorajar cortes de esquina pixpet apostas segurança, alerta um denunciante

William Saunders, 🫰 um ex-engenheiro de pesquisa da OpenAI, disse à Guardian que está preocupado com relatos de que o desenvolvedor do ChatGPT 🫰 está se preparando para mudar pixpet apostas estrutura corporativa e não será mais controlado por seu conselho sem fins lucrativos.

Saunders, que 🫰 levantou suas preocupações pixpet apostas testemunho ao Senado dos EUA este mês, disse que também está preocupado com relatos de que 🫰 o chefe executivo da OpenAI, Sam Altman, poderá ter uma participação na empresa reestruturada.

Mais incêntivo para corrida e cortes de 🫰 esquina

"Estou mais preocupado com o que isso significa para a governança de decisões de segurança na OpenAI. Se o conselho 🫰 sem fins lucrativos não estiver mais a cargo dessas decisões e Sam Altman tiver uma participação significativa, isso criará mais 🫰 incêntivo para corrida e cortes de esquina."

A OpenAI foi fundada como uma entidade sem fins lucrativos e pixpet apostas carta se 🫰 compromete a construir inteligência artificial geral (AGI) – que ela descreve como "sistemas que são geralmente mais inteligentes do que 🫰 humanos" – que beneficie "toda a humanidade". No entanto, o potencial poder de um sistema AGI tem alarmado especialistas e 🫰 praticantes, incluindo Saunders, ante o medo de que a corrida competitiva para construir tal tecnologia possa levar a que as 🫰 preocupações com a segurança sejam superadas.

Perda de fé na OpenAI

Saunders disse pixpet apostas testemunho escrito ao Senado que deixou a empresa 🫰 porque "perdeu a fé" de que a OpenAI faria decisões responsáveis sobre AGI. Saunders era membro da equipe de superalinhamento 🫰 da OpenAI, um grupo agora dissolvido encarregado de garantir que sistemas de IA poderosos adiram aos valores e objetivos humanos.

Prioridade 🫰 à sociedade

Saunders disse que uma mudança para uma entidade lucrativa pode minar os objetivos da estrutura atual, na qual a 🫰 OpenAI tem uma entidade lucrativa que limita as retornos a investidores e empregados. Toda a renda gerada acima dessa capa 🫰 é devolvida ao sem fins lucrativos "para o benefício da humanidade".

Saunders disse que uma entidade puramente lucrativa pode não distribuir 🫰 seus rendimentos de volta à sociedade se, por exemplo, ela desenvolver tecnologia que torna um grande número de empregos obsoletos.

"A 🫰 OpenAI deveria permitir apenas lucros limitados para investidores e empregados e dar o resto ao sem fins lucrativos. Então, se 🫰 a OpenAI fizesse tecnologia de IA que causasse grande escala de desemprego, eles não estariam simplesmente faturando os lucros e 🫰 darão de volta à sociedade. Mudar para uma entidade lucrativa sugere que isso não é mais uma prioridade."

A OpenAI foi 🫰 contatada para comentários. Sua carta estatal diz que a empresa está "comprometida pixpet apostas fazer a pesquisa necessária para tornar a 🫰 AGI segura" e recentemente tornou seu comitê de segurança e segurança uma entidade independente, o que também envolveu Altman renunciando 🫰 como um de seus membros.