OpenAI e Elon Musk
Estamos dedicados à missão da OpenAI e a perseguimos em cada etapa do caminho.
A missão da OpenAI é garantir que a AGI beneficie toda a humanidade, o que significa construir uma AGI segura e benéfica e ajudar a criar benefícios amplamente distribuídos. Agora estamos compartilhando o que aprendemos sobre como cumprir nossa missão e alguns fatos sobre nosso relacionamento com Elon. Pretendemos agir para rejeitar todas as reivindicações de Elon.
Percebemos que construir AGI exigirá muito mais recursos do que imaginávamos inicialmente
Elon disse que deveríamos anunciar um compromisso inicial de financiamento de US$ 1 bilhão para OpenAI. No total, a organização sem fins lucrativos arrecadou menos de US$ 45 milhões de Elon e mais de US$ 90 milhões de outros doadores.
Ao iniciar a OpenAI no final de 2015, Greg e Sam planejaram inicialmente arrecadar US$ 100 milhões. Elon disse por e-mail: “Precisamos de um número muito maior do que US$ 100 milhões para evitar parecer desesperado… Acho que deveríamos dizer que estamos começando com um compromisso de financiamento de US$ 1 bilhão… Cobrirei tudo o que alguém não fornecer. .” [1]
Passamos muito tempo tentando imaginar um caminho plausível para a AGI. No início de 2017, percebemos que a construção da AGI exigirá grandes quantidades de computação. Começamos a calcular quanta computação um AGI poderia exigir. Todos nós entendemos que precisaríamos de muito mais capital para ter sucesso em nossa missão – bilhões de dólares por ano, o que era muito mais do que qualquer um de nós, especialmente Elon, pensava que seríamos capazes de arrecadar como organização sem fins lucrativos.
Nós e Elon reconhecemos que seria necessária uma entidade com fins lucrativos para adquirir esses recursos
Enquanto discutíamos uma estrutura com fins lucrativos para promover a missão, Elon queria que nos fundíssemos com a Tesla ou queria controle total. Elon deixou a OpenAI, dizendo que precisava haver um concorrente relevante para o Google/DeepMind e que ele mesmo faria isso. Ele disse que nos apoiaria para encontrarmos nosso próprio caminho.
No final de 2017, nós e Elon decidimos que o próximo passo da missão seria criar uma entidade com fins lucrativos. Elon queria participação majoritária, controle inicial do conselho e ser CEO. No meio dessas discussões, ele reteve o financiamento. Reid Hoffman preencheu a lacuna para cobrir salários e operações.
Não pudemos concordar com os termos de uma empresa com fins lucrativos com Elon porque sentimos que era contra a missão de qualquer indivíduo ter controle absoluto sobre a OpenAI. Ele então sugeriu fundir o OpenAI com o Tesla. No início de fevereiro de 2018, Elon nos encaminhou um e-mail sugerindo que a OpenAI deveria “anexar-se à Tesla como sua vaca leiteira”, comentando que estava “exatamente certo… Tesla é o único caminho que poderia até mesmo se comparar ao Google. Mesmo assim, a probabilidade de ser um contrapeso ao Google é pequena. Simplesmente não é zero”. [2]
Elon logo optou por deixar a OpenAI, dizendo que nossa probabilidade de sucesso era 0 e que planejava construir um concorrente AGI dentro da Tesla. Quando ele saiu no final de fevereiro de 2018, ele disse à nossa equipe que apoiava que encontrássemos nosso próprio caminho para arrecadar bilhões de dólares. Em dezembro de 2018, Elon nos enviou um e-mail dizendo “Mesmo arrecadar várias centenas de milhões não será suficiente. Isso precisa de bilhões por ano imediatamente ou esqueça.” [3]
Avançamos em nossa missão construindo ferramentas benéficas amplamente disponíveis
Estamos tornando nossa tecnologia amplamente utilizável de forma a capacitar as pessoas e melhorar suas vidas diárias, inclusive por meio de contribuições de código aberto.
Fornecemos amplo acesso à IA mais poderosa da atualidade, incluindo uma versão gratuita que centenas de milhões de pessoas usam todos os dias. Por exemplo, a Albânia está a utilizar as ferramentas da OpenAI para acelerar a sua adesão à UE em até 5,5 anos; A Digital Green está ajudando a aumentar a renda dos agricultores no Quênia e na Índia, reduzindo em 100 vezes o custo dos serviços de extensão agrícola com base no OpenAI; A Lifespan, o maior fornecedor de cuidados de saúde em Rhode Island, utiliza o GPT-4 para simplificar os seus formulários de consentimento cirúrgico desde o nível de leitura da faculdade até ao 6º ano; A Islândia está usando o GPT-4 para preservar a língua islandesa.
Elon entendeu que a missão não implicava AGI de código aberto. Como Ilya disse a Elon: “À medida que nos aproximamos da construção da IA, fará sentido começar a ser menos aberto. O Open no openAI significa que todos devem se beneficiar dos frutos da IA depois de construída, mas é totalmente normal não compartilhar a ciência…”, ao que Elon respondeu: “Sim”. [4]
Estamos tristes por ter chegado a esse ponto com alguém que admiramos profundamente – alguém que nos inspirou a almejar mais alto, depois nos disse que iríamos falhar, abriu um concorrente e depois nos processou quando começamos a fazer progressos significativos em direção à missão da OpenAI sem ele.
Estamos focados em avançar em nossa missão e temos um longo caminho a percorrer. À medida que continuamos a tornar nossas ferramentas cada vez melhores, estamos entusiasmados em implantar esses sistemas para que capacitem cada indivíduo.
[1]
De: Elon Musk<>
Para: Greg Brockman <>
CC: Sam Altman<>
Data: domingo, 22 de novembro de 2015 às 19h48
Assunto: acompanhamento da ligação
O blog parece bom, assumindo ajustes para neutralidade versus centrado no YC.
Eu seria a favor de posicionar o blog para atrair um pouco mais o público em geral – há muito valor em ter a raiz pública para termos sucesso – e depois ter uma versão mais longa, mais detalhada e interna do beisebol para recrutamento , com um link para ele no final da versão para o público geral.
Precisamos optar por um número muito maior do que US$ 100 milhões para evitar parecer desesperados em relação ao que o Google ou o Facebook estão gastando. Acho que deveríamos dizer que estamos começando com um compromisso de financiamento de US$ 1 bilhão. Isso é real. Cobrirei tudo o que alguém não fornecer.
O modelo parece bom, além de mudar para um bônus em dinheiro adquirido como padrão, que pode opcionalmente ser transformado em ações da YC ou potencialmente da SpaceX (é preciso entender quanto será).
[2]
De: Elon Musk<>
Para: Ilya Sutskever<>, Greg Brockman<>
Data: quinta-feira, 1º de fevereiro de 2018 às 3h52
Assunto: Fwd: Principais instituições de IA hoje
está exatamente certo. Poderíamos desejar que fosse diferente, mas, na minha opinião eNa opinião de Tesla, Tesla é o único caminho que poderia até mesmo se comparar ao Google. Mesmo assim, a probabilidade de ser um contrapeso ao Google é pequena. Simplesmente não é zero.
Iniciar mensagem encaminhada:
De: <>
Para: Elon Musk<>
Data: 31 de janeiro de 2018 às 23h54:30 PST
Assunto: Re: Principais instituições de IA hoje
Trabalhar na vanguarda da IA infelizmente é caro. Por exemplo,Além do DeepMind, o Google também possui Google Brain, Research e Cloud. E TensorFlow, TPUs e eles possuem cerca de um terço de todas as pesquisas (na verdade, eles realizam suas próprias conferências de IA).
Também suspeito fortemente que a potência computacional será necessária (e possivelmente até suficiente) para atingir o AGI. Se as tendências históricas servirem de indicação, o progresso na IA é impulsionado principalmente por sistemas – computação, dados, infraestrutura. Os algoritmos principais que usamos hoje permaneceram praticamente inalterados desde os anos 90. Não apenas isso, mas quaisquer avanços algorítmicos publicados em um artigo em algum lugar podem ser quase imediatamente reimplementados e incorporados. Por outro lado, os avanços algorítmicos por si só são inertes sem a escala para torná-los também assustadores.
Parece-me que a OpenAI hoje está queimando dinheiro e que o modelo de financiamento não consegue atingir a escala para competir seriamente com o Google (uma empresa 800B). Se não conseguir competir seriamente, mas continuar a fazer investigação abertamente, poderá de facto estar a piorar as coisas e a ajudá-los “de graça”, porque quaisquer avanços são bastante fáceis de copiar e incorporar imediatamente, em grande escala.
Um pivô com fins lucrativos poderia criar um fluxo de receitas mais sustentável ao longo do tempo e, com a equipe atual, provavelmente geraria muitos investimentos. No entanto, construir um produto do zero roubaria o foco da pesquisa em IA, levaria muito tempo e não está claro se uma empresa conseguiria “alcançar” a escala do Google, e os investidores poderiam exercer muita pressão nas direções erradas. A opção mais promissora que posso imaginar, como mencionei anteriormente, seria a OpenAI se associar à Tesla como sua fonte de renda. Acredito que ligações com outros grandes suspeitos (por exemplo, Apple? Amazon?) falhariam devido a um DNA de empresa incompatível. Usando uma analogia com o foguete, a Tesla já construiu o “primeiro estágio” do foguete com toda a cadeia de abastecimento do Modelo 3 e seu computador de bordo e uma conexão persistente à Internet. A “segunda etapa” seria uma solução totalmente autônoma baseada no treinamento de redes neurais em larga escala, que a experiência da OpenAI poderia ajudar significativamente a acelerar. Com uma solução totalmente autônoma e funcional em aproximadamente 2 a 3 anos, poderíamos vender muitos carros/caminhões. Se fizermos isto muito bem, a indústria dos transportes será suficientemente grande para que possamos aumentar a capitalização de mercado da Tesla para um nível elevado de O(~100K) e utilizar essa receita para financiar o trabalho de IA na escala apropriada.
Não consigo ver mais nada que tenha potencial para alcançar um capital sustentável à escala do Google dentro de uma década.
[3]
De: Elon Musk<>
Para: Ilya Sutskever<>, Greg Brockman<>
CC: Sam Altman<>,<>
Data: Quarta, 26 de dezembro de 2018 às 12h07
Assunto: Sinto que devo reiterar
Minha avaliação de probabilidade de OpenAI ser relevante para DeepMind/Google sem uma mudança dramática na execução e nos recursos é de 0%. Não 1%. Eu queria que isso fosse de outra maneira.
Mesmo arrecadar várias centenas de milhões não será suficiente. Isso precisa de bilhões por ano imediatamente ou esqueça.
Infelizmente, o futuro da humanidade está nas mãos de.
E eles estão fazendo muito mais do que isso.
Eu realmente espero estar errado.
Elon
[4]
Fwd: parabéns pelo falcão 9
3 mensagens
De: Elon Musk<>
Para: Sam Altman<>, Ilya Sutskever <>, Greg Brockman<>
Data: sábado, 2 de janeiro de 2016 às 8h18
Assunto: Fwd: parabéns pelo falcão 9
Iniciar mensagem encaminhada:
De: <>
Para: Elon Musk<>
Data: 2 de janeiro de 2016 às 10h12h32 CST
Assunto: parabéns pelo falcão 9
Olá Elon
Feliz ano novo para você,!
Parabéns pelo pouso do Falcon 9, que conquista incrível. É hora de construir a frota agora!
Eu vi você (e Sam e outras pessoas da OpenAI) dando muitas entrevistas recentemente exaltando as virtudes da IA de código aberto, mas presumo que você perceba que isso não é algum tipo de panacéia que de alguma forma resolverá magicamente o problema de segurança? Existem muitos bons argumentos sobre por que a abordagem que você está adotando é realmente muito perigosa e pode, de fato, aumentar o risco para o mundo. Alguns dos pontos mais óbvios estão bem articulados nesta postagem do blog, que tenho certeza que você já viu, mas também há outras considerações importantes:
http://slastarcodex.com/2015/12/17/should-ai- be-open/
Eu estaria interessado em ouvir seus contra-argumentos para esses pontos.
Melhor
De: Ilya Sutskever<>
Para: Elon Musk<>, Sam Altman <>, Greg Brockman<>
Data: sábado, 2 de janeiro de 2016 às 9h06
Assunto: Fwd: parabéns pelo falcão 9
O artigo está preocupado com um cenário de decolagem difícil: se ocorrer uma decolagem difícil, e uma IA segura for mais difícil de construir do que uma insegura, então, ao abrir tudo, tornamos mais fácil para alguém sem escrúpulos com acesso a uma enorme quantidade de hardware construir uma IA insegura, que enfrentará uma decolagem difícil.
À medida que nos aproximamos da construção da IA, fará sentido começar a ser menos aberto. O Open na openAI significa que todos devem beneficiar dos frutos da IA depois da sua construção, mas é totalmente aceitável não partilhar a ciência (embora partilhar tudo seja definitivamente a estratégia certa a curto e possivelmente a médio prazo para fins de recrutamento).
De: Elon Musk<>
Para: Ilya Sutskever<>
Data: sábado, 2 de janeiro de 2016 às 9h11
Assunto: Fwd: parabéns pelo falcão 9
Sim
