A tecnologia CPO (co-packaged optoelectronics) existe há algum tempo, mas ainda está em fase de desenvolvimento.Gerente sênior de componentes ópticos e integração na Corning Optical Communications, explicou como o vidro desempenha um papel fundamental na colocação de conversores eletro-ópticos à base de silício o mais próximo possível dos processadores de silício.
As redes de centros de dados estão a evoluir rapidamente, e este impulso acelerou com a ascensão da IA e a implantação em larga escala de clusters de IA.Particularmente com a implantação da arquitetura DGX SuperPOD da NVIDIA e dos clusters TPU do GoogleEsta mudança é impulsionada pela demanda por computação de alto desempenho para apoiar o treinamento e as tarefas de inferência da IA.Espera-se que a NVIDIA, sozinha, envie milhões de unidades de GPU otimizadas para IA anualmente nos próximos cinco anos., atingindo uma escala significativa até 2028.
O número de unidades transceptoras necessárias para construir estas redes chegará a dezenas de milhões anualmente, e estes dispositivos terão de operar a velocidades máximas de 1,6 Tbps e 3,2 Tbps.Os analistas da indústria prevêem que cada acelerador (GPU) será equipado com mais de 10 transceptores no futuro, o que significa que a procura de ligações de fibra óptica aumentará cerca de 10 vezes em comparação com os níveis de implantação actuais.
Em um centro de dados típico, um transceptor Ethernet padrão conectável consome aproximadamente 20 watts de energia.Baseado em remessas atuais, estima-se que aproximadamente 200 megawatts (MW) de energia serão implantados em transceptores de energia em 2024.Com base na trajetória de desenvolvimento dos transceptores e no aumento esperado de dez vezes na procura de conectividade óptica, prevê-se que a utilização de energia de transceptor aumente para 2 gigawatts (GW) por ano, o equivalente à energia gerada por uma grande central nuclear.Não inclui a potência necessária para alimentar a eletrónica do lado do anfitrião e os retímetros elétricos utilizados para transmitir dados dos circuitos integrados para os transceptores na extremidade frontal do dispositivo.
Por exemplo, para um centro de dados de IA equipado com um milhão de GPUs, a introdução da tecnologia CPO poderia economizar o centro de dados aproximadamente 150 megawatts de capacidade de geração de energia.Além de reduzir o investimento necessário para construir as instalações de produção de energia correspondentes, esta tecnologia também reduz significativamente os custos operacionais, dependendo das diferenças regionais de preços da energia, as poupanças anuais de electricidade poderiam facilmente exceder 100 milhões de euros.O programa de investigação e desenvolvimento tecnológico da União Europeia (UE), a procura de largura de banda elevada,as interligações ópticas de baixa potência estão a aumentar em centros de supercomputação (como o Wuxi Sunway TaihuLight) e centros de computação inteligentes (como os clusters de computação de IA em Pequim e Shenzhen)A tecnologia CPO deverá ser fundamental para reduzir o consumo de energia e aumentar a eficiência das GPUs produzidas no mercado interno.A inovação é crucial.
Introdução da tecnologia CPO
A CPO é a tecnologia com maior probabilidade de ultrapassar este gargalo de consumo de energia a curto prazo.Esta tecnologia muda o módulo de conversão eletro-óptica do transceptor no painel frontal para o interior do dispositivo, idealmente integrando-o diretamente no substrato do pacote CPU ou GPU. Isso minimiza a perda de energia no canal de cobre, resultando em um link mais eficiente em termos de energia.,O consumo de energia pode ser reduzido em mais de 50% e, em alguns casos, até 75%. This energy-saving advantage is achieved not only by reducing the use of high-loss copper channels but also by simplifying or even eliminating the digital signal processor (DSP) required to compensate for electrical signal transmission losses.
Em resumo, a tecnologia CPO oferece conectividade óptica de alta velocidade, baixa potência e baixa latência.
Outra alternativa de poupança de energia que vale a pena considerar é o módulo óptico linear ligável (LPO).reduz o consumo de energia e a latência, mantendo o fator de forma e o ecossistema de um transceptor conectável no painel frontalEnquanto a CPO oferece uma melhor integridade do sinal e uma menor latência, a LPO é mais rentável, particularmente para aplicações de curto alcance.combinado com o seu rápido tempo de comercialização, pode atrasar a adoção generalizada da tecnologia CPO.
No entanto, à medida que as velocidades de ligação aumentam para 200G e além, a LPO consome mais energia do que a CPO e torna-se significativamente mais difícil de gerir, a fim de garantir uma elevada qualidade do sinal.À medida que a tecnologia avança, a CPO deverá tornar-se a solução preferida no futuro.
O vidro potencia a tecnologia CPO
Espera-se que o vidro desempenhe um papel fundamental na próxima geração de tecnologia CPO.Para aproximar o mais possível os conversores eletro-ópticos (principalmente chips fotônicos de silício) dos processadores reais de silício (CPUs e GPUs), é necessária uma nova tecnologia de embalagem que não só suporta tamanhos de substrato maiores, mas também permite a conectividade óptica aos chips fotônicos de silício.
A embalagem de semicondutores baseia-se tradicionalmente principalmente em substratos orgânicos, que apresentam um coeficiente de expansão térmica mais elevado do que o silício.que limita o tamanho máximo dos conjuntos de semicondutoresComo a indústria continua a pressionar por substratos de embalagem maiores nas plataformas de tecnologia orgânica existentes, reliability issues (such as solder joint integrity issues and increased risk of delamination) and manufacturing challenges (such as high-quality fine-pitch interconnect structures and high-density wiring) have become increasingly prominentNo entanto, através de um projeto otimizado, o vidro pode alcançar um coeficiente de expansão térmica mais próximo do dos chips de silício.Superando os substratos orgânicos tradicionaisEste substrato de vidro especialmente transformado apresenta uma estabilidade térmica excepcional, reduzindo o esforço mecânico e os danos durante as flutuações de temperatura.A sua superior resistência mecânica e planosidade fornecem uma base sólida para a confiabilidade da embalagem de chipsAlém disso, os substratos de vidro suportam uma maior densidade de interconexão e tons mais finos, melhorando o desempenho elétrico e reduzindo os efeitos parasitários.Estas propriedades tornam o vidro uma escolha altamente confiável e precisa para embalagens avançadas de semicondutoresConsequentemente, a indústria de embalagens de semicondutores está a desenvolver ativamente a tecnologia avançada de substrato de vidro como a tecnologia de substrato de próxima geração.
Substratos de vidro com guia de ondas
Além de suas excelentes propriedades térmicas e mecânicas, o vidro também pode ser manipulado para funcionar como um guia de ondas óptico.Os guias de ondas em vidro são tipicamente criados através de um processo chamado troca de íonsOs iões do vidro são substituídos por iões diferentes de uma solução salina, alterando assim o índice de refração do vidro.Estas regiões modificadas podem guiar a luzEsta técnica permite ajustar com precisão as propriedades do guia de ondas, tornando-o adequado para uma variedade de aplicações ópticas.A luz pode se propagar ao longo de guias de onda de vidro integrados e ser eficientemente acoplada em fibras ópticas ou chips fotônicos de silícioIsto torna o vidro uma escolha material atraente para aplicações CPO avançadas.
A integração de interconexões elétricas e ópticas no mesmo substrato também ajuda a resolver os desafios de densidade de interconexão que as empresas enfrentam ao construir grandes clusters de IA.O número de canais ópticos é limitado pela geometria das fibras ópticas. O diâmetro de um revestimento típico de fibra óptica é de 127 microns.Os guias de onda de vidro, no entanto, permitem arranjos mais densos, aumentando significativamente a densidade de entrada/saída (I/O) em comparação com as conexões diretas de fibra para chip.
A integração de interconexões elétricas e ópticas não só aborda os problemas de densidade, mas também melhora o desempenho geral e a escalabilidade dos clusters de IA.A natureza compacta dos guias de onda de vidro permite que mais canais ópticos sejam acomodados no mesmo espaço físico, aumentando assim a capacidade e a eficiência de transmissão de dados do sistema.Este avanço é crucial para impulsionar o desenvolvimento de infraestruturas de IA de próxima geração em cenários em que os sistemas de IA devem processar grandes quantidades de dados, a tecnologia de interconexão de alta densidade é fundamental para uma gestão eficiente.
Ao integrar guias de onda de vidro, um sistema óptico completo pode ser construído no mesmo substrato, permitindo que os circuitos integrados fotônicos se comuniquem diretamente através de guias de onda ópticos.Este processo elimina a necessidade de interconexões de fibra óptica e melhora significativamente a largura de banda e a cobertura da comunicação entre chipsEm sistemas de alta densidade com numerosos componentes interconectados, a utilização de guias de ondas de vidro pode obter uma perda de sinal menor, uma maior densidade de largura de banda,e maior durabilidade em comparação com as fibras ópticas discretasEstas vantagens tornam os guias de ondas de vidro uma escolha ideal para sistemas de interconexão óptica de alto desempenho.
A aplicação da tecnologia CPO a centros de dados de próxima geração e redes de supercomputadores de IA pode aumentar a largura de banda de escape de chips, abrindo novas possibilidades para alta velocidade,com um comprimento de ligação superior a 50 mm,Os arquitetos de rede têm agora uma oportunidade única de reinventar e redesenhar as arquiteturas de rede.alcançarão um desempenho superior da rede, conduzindo melhorias na eficiência operacional e na otimização dos processos.
Conclusão
A tecnologia CPO tem o potencial de revolucionar a arquitetura de interconexão de IA em vários níveis.tornar os sistemas de IA mais ecológicos e rentáveisAlém disso, o CPO melhora a eficiência e a escalabilidade dos sistemas de IA, permitindo-lhes lidar facilmente com tarefas maiores e mais complexas.O CPO pode aumentar as taxas de transmissão de dados, assegurando uma comunicação mais rápida e fiável entre os componentes da IA, o que contribuirá também para reduzir os gargalos nos futuros sistemas de IA, garantindo um funcionamento do sistema mais suave e eficiente.
Espera-se que as futuras interligações de IA introduzam ligações ópticas diretas, eliminando a necessidade de switches de computação.Esta inovação irá alargar a largura de banda para as tarefas de IA e melhorar a velocidade e a eficiência do processamento de grandes conjuntos de dadosO vidro, com as suas capacidades superiores de transmissão de dados e escalabilidade, é um material ideal para permitir estes avanços tecnológicos.As ligações ópticas baseadas em vidro tornar-se-ão um facilitador crítico para os sistemas de IA de próxima geração, formando uma infra-estrutura indispensável para a computação de alto desempenho e aplicações avançadas de IA.
A NEW LIGHT OPTICS TECHNOLOGY LIMITED esforçar-se-á por aproveitar todas as oportunidades e contribuir.
A tecnologia CPO (co-packaged optoelectronics) existe há algum tempo, mas ainda está em fase de desenvolvimento.Gerente sênior de componentes ópticos e integração na Corning Optical Communications, explicou como o vidro desempenha um papel fundamental na colocação de conversores eletro-ópticos à base de silício o mais próximo possível dos processadores de silício.
As redes de centros de dados estão a evoluir rapidamente, e este impulso acelerou com a ascensão da IA e a implantação em larga escala de clusters de IA.Particularmente com a implantação da arquitetura DGX SuperPOD da NVIDIA e dos clusters TPU do GoogleEsta mudança é impulsionada pela demanda por computação de alto desempenho para apoiar o treinamento e as tarefas de inferência da IA.Espera-se que a NVIDIA, sozinha, envie milhões de unidades de GPU otimizadas para IA anualmente nos próximos cinco anos., atingindo uma escala significativa até 2028.
O número de unidades transceptoras necessárias para construir estas redes chegará a dezenas de milhões anualmente, e estes dispositivos terão de operar a velocidades máximas de 1,6 Tbps e 3,2 Tbps.Os analistas da indústria prevêem que cada acelerador (GPU) será equipado com mais de 10 transceptores no futuro, o que significa que a procura de ligações de fibra óptica aumentará cerca de 10 vezes em comparação com os níveis de implantação actuais.
Em um centro de dados típico, um transceptor Ethernet padrão conectável consome aproximadamente 20 watts de energia.Baseado em remessas atuais, estima-se que aproximadamente 200 megawatts (MW) de energia serão implantados em transceptores de energia em 2024.Com base na trajetória de desenvolvimento dos transceptores e no aumento esperado de dez vezes na procura de conectividade óptica, prevê-se que a utilização de energia de transceptor aumente para 2 gigawatts (GW) por ano, o equivalente à energia gerada por uma grande central nuclear.Não inclui a potência necessária para alimentar a eletrónica do lado do anfitrião e os retímetros elétricos utilizados para transmitir dados dos circuitos integrados para os transceptores na extremidade frontal do dispositivo.
Por exemplo, para um centro de dados de IA equipado com um milhão de GPUs, a introdução da tecnologia CPO poderia economizar o centro de dados aproximadamente 150 megawatts de capacidade de geração de energia.Além de reduzir o investimento necessário para construir as instalações de produção de energia correspondentes, esta tecnologia também reduz significativamente os custos operacionais, dependendo das diferenças regionais de preços da energia, as poupanças anuais de electricidade poderiam facilmente exceder 100 milhões de euros.O programa de investigação e desenvolvimento tecnológico da União Europeia (UE), a procura de largura de banda elevada,as interligações ópticas de baixa potência estão a aumentar em centros de supercomputação (como o Wuxi Sunway TaihuLight) e centros de computação inteligentes (como os clusters de computação de IA em Pequim e Shenzhen)A tecnologia CPO deverá ser fundamental para reduzir o consumo de energia e aumentar a eficiência das GPUs produzidas no mercado interno.A inovação é crucial.
Introdução da tecnologia CPO
A CPO é a tecnologia com maior probabilidade de ultrapassar este gargalo de consumo de energia a curto prazo.Esta tecnologia muda o módulo de conversão eletro-óptica do transceptor no painel frontal para o interior do dispositivo, idealmente integrando-o diretamente no substrato do pacote CPU ou GPU. Isso minimiza a perda de energia no canal de cobre, resultando em um link mais eficiente em termos de energia.,O consumo de energia pode ser reduzido em mais de 50% e, em alguns casos, até 75%. This energy-saving advantage is achieved not only by reducing the use of high-loss copper channels but also by simplifying or even eliminating the digital signal processor (DSP) required to compensate for electrical signal transmission losses.
Em resumo, a tecnologia CPO oferece conectividade óptica de alta velocidade, baixa potência e baixa latência.
Outra alternativa de poupança de energia que vale a pena considerar é o módulo óptico linear ligável (LPO).reduz o consumo de energia e a latência, mantendo o fator de forma e o ecossistema de um transceptor conectável no painel frontalEnquanto a CPO oferece uma melhor integridade do sinal e uma menor latência, a LPO é mais rentável, particularmente para aplicações de curto alcance.combinado com o seu rápido tempo de comercialização, pode atrasar a adoção generalizada da tecnologia CPO.
No entanto, à medida que as velocidades de ligação aumentam para 200G e além, a LPO consome mais energia do que a CPO e torna-se significativamente mais difícil de gerir, a fim de garantir uma elevada qualidade do sinal.À medida que a tecnologia avança, a CPO deverá tornar-se a solução preferida no futuro.
O vidro potencia a tecnologia CPO
Espera-se que o vidro desempenhe um papel fundamental na próxima geração de tecnologia CPO.Para aproximar o mais possível os conversores eletro-ópticos (principalmente chips fotônicos de silício) dos processadores reais de silício (CPUs e GPUs), é necessária uma nova tecnologia de embalagem que não só suporta tamanhos de substrato maiores, mas também permite a conectividade óptica aos chips fotônicos de silício.
A embalagem de semicondutores baseia-se tradicionalmente principalmente em substratos orgânicos, que apresentam um coeficiente de expansão térmica mais elevado do que o silício.que limita o tamanho máximo dos conjuntos de semicondutoresComo a indústria continua a pressionar por substratos de embalagem maiores nas plataformas de tecnologia orgânica existentes, reliability issues (such as solder joint integrity issues and increased risk of delamination) and manufacturing challenges (such as high-quality fine-pitch interconnect structures and high-density wiring) have become increasingly prominentNo entanto, através de um projeto otimizado, o vidro pode alcançar um coeficiente de expansão térmica mais próximo do dos chips de silício.Superando os substratos orgânicos tradicionaisEste substrato de vidro especialmente transformado apresenta uma estabilidade térmica excepcional, reduzindo o esforço mecânico e os danos durante as flutuações de temperatura.A sua superior resistência mecânica e planosidade fornecem uma base sólida para a confiabilidade da embalagem de chipsAlém disso, os substratos de vidro suportam uma maior densidade de interconexão e tons mais finos, melhorando o desempenho elétrico e reduzindo os efeitos parasitários.Estas propriedades tornam o vidro uma escolha altamente confiável e precisa para embalagens avançadas de semicondutoresConsequentemente, a indústria de embalagens de semicondutores está a desenvolver ativamente a tecnologia avançada de substrato de vidro como a tecnologia de substrato de próxima geração.
Substratos de vidro com guia de ondas
Além de suas excelentes propriedades térmicas e mecânicas, o vidro também pode ser manipulado para funcionar como um guia de ondas óptico.Os guias de ondas em vidro são tipicamente criados através de um processo chamado troca de íonsOs iões do vidro são substituídos por iões diferentes de uma solução salina, alterando assim o índice de refração do vidro.Estas regiões modificadas podem guiar a luzEsta técnica permite ajustar com precisão as propriedades do guia de ondas, tornando-o adequado para uma variedade de aplicações ópticas.A luz pode se propagar ao longo de guias de onda de vidro integrados e ser eficientemente acoplada em fibras ópticas ou chips fotônicos de silícioIsto torna o vidro uma escolha material atraente para aplicações CPO avançadas.
A integração de interconexões elétricas e ópticas no mesmo substrato também ajuda a resolver os desafios de densidade de interconexão que as empresas enfrentam ao construir grandes clusters de IA.O número de canais ópticos é limitado pela geometria das fibras ópticas. O diâmetro de um revestimento típico de fibra óptica é de 127 microns.Os guias de onda de vidro, no entanto, permitem arranjos mais densos, aumentando significativamente a densidade de entrada/saída (I/O) em comparação com as conexões diretas de fibra para chip.
A integração de interconexões elétricas e ópticas não só aborda os problemas de densidade, mas também melhora o desempenho geral e a escalabilidade dos clusters de IA.A natureza compacta dos guias de onda de vidro permite que mais canais ópticos sejam acomodados no mesmo espaço físico, aumentando assim a capacidade e a eficiência de transmissão de dados do sistema.Este avanço é crucial para impulsionar o desenvolvimento de infraestruturas de IA de próxima geração em cenários em que os sistemas de IA devem processar grandes quantidades de dados, a tecnologia de interconexão de alta densidade é fundamental para uma gestão eficiente.
Ao integrar guias de onda de vidro, um sistema óptico completo pode ser construído no mesmo substrato, permitindo que os circuitos integrados fotônicos se comuniquem diretamente através de guias de onda ópticos.Este processo elimina a necessidade de interconexões de fibra óptica e melhora significativamente a largura de banda e a cobertura da comunicação entre chipsEm sistemas de alta densidade com numerosos componentes interconectados, a utilização de guias de ondas de vidro pode obter uma perda de sinal menor, uma maior densidade de largura de banda,e maior durabilidade em comparação com as fibras ópticas discretasEstas vantagens tornam os guias de ondas de vidro uma escolha ideal para sistemas de interconexão óptica de alto desempenho.
A aplicação da tecnologia CPO a centros de dados de próxima geração e redes de supercomputadores de IA pode aumentar a largura de banda de escape de chips, abrindo novas possibilidades para alta velocidade,com um comprimento de ligação superior a 50 mm,Os arquitetos de rede têm agora uma oportunidade única de reinventar e redesenhar as arquiteturas de rede.alcançarão um desempenho superior da rede, conduzindo melhorias na eficiência operacional e na otimização dos processos.
Conclusão
A tecnologia CPO tem o potencial de revolucionar a arquitetura de interconexão de IA em vários níveis.tornar os sistemas de IA mais ecológicos e rentáveisAlém disso, o CPO melhora a eficiência e a escalabilidade dos sistemas de IA, permitindo-lhes lidar facilmente com tarefas maiores e mais complexas.O CPO pode aumentar as taxas de transmissão de dados, assegurando uma comunicação mais rápida e fiável entre os componentes da IA, o que contribuirá também para reduzir os gargalos nos futuros sistemas de IA, garantindo um funcionamento do sistema mais suave e eficiente.
Espera-se que as futuras interligações de IA introduzam ligações ópticas diretas, eliminando a necessidade de switches de computação.Esta inovação irá alargar a largura de banda para as tarefas de IA e melhorar a velocidade e a eficiência do processamento de grandes conjuntos de dadosO vidro, com as suas capacidades superiores de transmissão de dados e escalabilidade, é um material ideal para permitir estes avanços tecnológicos.As ligações ópticas baseadas em vidro tornar-se-ão um facilitador crítico para os sistemas de IA de próxima geração, formando uma infra-estrutura indispensável para a computação de alto desempenho e aplicações avançadas de IA.
A NEW LIGHT OPTICS TECHNOLOGY LIMITED esforçar-se-á por aproveitar todas as oportunidades e contribuir.