Plano de OpenAI bet365 é perigoso se tornar uma empresa lucrativa pode encorajar cortes de esquina bet365 é perigoso segurança, alerta um denunciante

William Saunders, 🫦 um ex-engenheiro de pesquisa da OpenAI, disse à Guardian que está preocupado com relatos de que o desenvolvedor do ChatGPT 🫦 está se preparando para mudar bet365 é perigoso estrutura corporativa e não será mais controlado por seu conselho sem fins lucrativos.

Saunders, que 🫦 levantou suas preocupações bet365 é perigoso testemunho ao Senado dos EUA este mês, disse que também está preocupado com relatos de que 🫦 o chefe executivo da OpenAI, Sam Altman, poderá ter uma participação na empresa reestruturada.

Mais incêntivo para corrida e cortes de 🫦 esquina

"Estou mais preocupado com o que isso significa para a governança de decisões de segurança na OpenAI. Se o conselho 🫦 sem fins lucrativos não estiver mais a cargo dessas decisões e Sam Altman tiver uma participação significativa, isso criará mais 🫦 incêntivo para corrida e cortes de esquina."

A OpenAI foi fundada como uma entidade sem fins lucrativos e bet365 é perigoso carta se 🫦 compromete a construir inteligência artificial geral (AGI) – que ela descreve como "sistemas que são geralmente mais inteligentes do que 🫦 humanos" – que beneficie "toda a humanidade". No entanto, o potencial poder de um sistema AGI tem alarmado especialistas e 🫦 praticantes, incluindo Saunders, ante o medo de que a corrida competitiva para construir tal tecnologia possa levar a que as 🫦 preocupações com a segurança sejam superadas.

Perda de fé na OpenAI

Saunders disse bet365 é perigoso testemunho escrito ao Senado que deixou a empresa 🫦 porque "perdeu a fé" de que a OpenAI faria decisões responsáveis sobre AGI. Saunders era membro da equipe de superalinhamento 🫦 da OpenAI, um grupo agora dissolvido encarregado de garantir que sistemas de IA poderosos adiram aos valores e objetivos humanos.

Prioridade 🫦 à sociedade

Saunders disse que uma mudança para uma entidade lucrativa pode minar os objetivos da estrutura atual, na qual a 🫦 OpenAI tem uma entidade lucrativa que limita as retornos a investidores e empregados. Toda a renda gerada acima dessa capa 🫦 é devolvida ao sem fins lucrativos "para o benefício da humanidade".

Saunders disse que uma entidade puramente lucrativa pode não distribuir 🫦 seus rendimentos de volta à sociedade se, por exemplo, ela desenvolver tecnologia que torna um grande número de empregos obsoletos.

"A 🫦 OpenAI deveria permitir apenas lucros limitados para investidores e empregados e dar o resto ao sem fins lucrativos. Então, se 🫦 a OpenAI fizesse tecnologia de IA que causasse grande escala de desemprego, eles não estariam simplesmente faturando os lucros e 🫦 darão de volta à sociedade. Mudar para uma entidade lucrativa sugere que isso não é mais uma prioridade."

A OpenAI foi 🫦 contatada para comentários. Sua carta estatal diz que a empresa está "comprometida bet365 é perigoso fazer a pesquisa necessária para tornar a 🫦 AGI segura" e recentemente tornou seu comitê de segurança e segurança uma entidade independente, o que também envolveu Altman renunciando 🫦 como um de seus membros.