Mantener la infraestructura tecnológica de ChatGPT le costaría US$700.000 diarios a OpenAI, según informe

OpenAI gastaría hasta US$694.444 al día para mantener la infraestructura tecnológica de ChatGPT. Los altos costos que genera este chatbot y todo el sistema que lo impulsa, ha obligado a Microsoft a buscar una forma de reducir este monto considerablemente. Por ello, está desarrollando un chip de IA que logre este objetivo.

“El gigante del software ha estado desarrollando el chip, cuyo nombre en código interno es Athena, desde 2019, según dos personas con conocimiento directo del proyecto. Los chips ya están disponibles para un pequeño grupo de empleados de Microsoft y OpenAI, que están probando la tecnología”, señala The Information.

MIRA: IBM sobre la inteligencia artificial: “Nos tenemos que acostumbrar a que vamos a lidiar ya no solo con humanos”

Este proyecto es un esfuerzo para acelerar la investigación de modelos como ChatGPT y GPT-4. Debido a que el popular chatbot de OpenAI requiere grandes cantidades de potencia informática para calcular las respuestas que da prácticamente de inmediato, sus componentes deben ser de buena calidad pero también consumen mucho.

Como en cualquier nueva tecnología, la infraestructura y su mantenimiento suelen ser caros, además de ser enormes. Para ello, solo debemos remontarnos a lo que era una computadora en los años 60 y compararla con una actual. Según el informe, el costo que mantener la infraestructura tecnológica de ChatGPT podría superar al monto de casi US$700 mil al día que ha revelado SemiAnalysis.

Asimismo, la capacitación de estos modelos también tienen un alto precio, el cual es de decenas de millones. A ello también se le suma lo que los expertos llaman “inferencia”, con lo cual el chatbot responde las preguntas de los usuarios. Esto, según el reporte la compañía de investigación, el costo de inferir podría exceder los montos de capacitación.

MIRA: Empresa de publicidad China reemplazará a sus creativos por una IA

Debido a estos gastos, Microsoft está apostando por Athena, un chip de IA que reduciría los costos y en el cual están trabajando más de 300 empleados de la compañía. Actualmente, tanto el gigante tecnológico como OpenAI utilizan chips de NVIDIA, el cual es uno de los principales proveedores en el mundo.

Este proyecto no es el único en la actualidad, pues otras empresas que también están apostando la IA, están desarrollando uno propio. “Microsoft espera que el chip funcione mejor que lo que compra actualmente a otros proveedores, ahorrándole tiempo y dinero en sus costosos esfuerzos de inteligencia artificial. Otras empresas tecnológicas destacadas, incluidas Amazon, Google y Facebook, también fabrican sus propios chips internos para IA”, concluye.