Extrabajador de Anthropic advierte sobre los peligros que conllevan los avances de las IA
Un ex empleado de Anthropic y OpenAI alerta sobre los peligros de la inteligencia artificial y cuestiona la competencia por lograr una superinteligencia.
Jacob Coxon, un extrabajador de Anthropic, generó controversia al publicar una serie de reflexiones en su cuenta de X después de renunciar a la compañía. Coxon, quien trabajó en investigación de preentrenamiento durante tres años tanto en OpenAI como en Anthropic, expresó su preocupación por el rumbo que están tomando ambas empresas.
Anthropic es una empresa estadounidense especializada en inteligencia artificial, reconocida por desarrollar Claude, una familia de modelos de IA generativa que compite con herramientas como ChatGPT. La compañía se enfoca en la investigación y desarrollo de sistemas avanzados de inteligencia artificial, con énfasis en la seguridad y el desarrollo responsable de esta tecnología.
'Renuncié a Anthropic hoy. Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas', advirtió Coxon.
Coxon advirtió sobre los avances en inteligencia artificial que podrían llevar pronto a sistemas con capacidades sobrehumanas y un impacto significativo en diversos ámbitos. Expresó: 'No subestimes el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales'.
'Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década. Esto no es un truco de marketing. Si acaso, muchos ejecutivos e investigadores senior moderarán su lenguaje en la prensa para sonar sensatos, pero oigo a las mismas personas expresar miedo en privado. Ninguna otra actividad humana representa este nivel de peligro', aseguró Coxon.
El excolaborador también explicó por qué los laboratorios continúan avanzando a pesar de los riesgos planteados. Según su análisis, mientras algunos no habrían comprendido completamente las consecuencias, otros estarían atrapados en una carrera por llegar primero debido a la falta de responsabilidad percibida en el sector.
'Una respuesta común es: si realmente creen esto, ¿por qué siguen construyéndolo?. En OpenAI, muchos no han interiorizado profundamente las apuestas civilizatorias. En Anthropic, las apuestas están bien comprendidas, pero están atrapados en una carrera por llegar primero: creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos, a pesar del riesgo', sostuvo Coxon.
Coxon cuestionó que decisiones tan trascendentales queden en manos de empresas privadas y sugirió medidas para evitar posibles consecuencias negativas derivadas del avance descontrolado en inteligencia artificial.
'Aceptar esta carrera e ingresar al endgame es una apuesta que no debería lanzarse desde el Slack de una empresa privada. Intentar hacer un speedrun del alineamiento debería requerir una confianza extraordinaria en que no hay trayectorias mejores disponibles', señaló.
A pesar de sus críticas, Coxon se mostró optimista respecto a la posibilidad de alcanzar acuerdos entre los laboratorios dedicados a la IA. Sin embargo, advirtió que evitar una carrera global podría requerir medidas drásticas como una prohibición temporal para mejorar las capacidades de los modelos.
'Estoy optimista sobre el potencial para la coordinación. Disparos de advertencia como el ataque a Hugging Face han hecho que los acuerdos entre laboratorios sean más viables. No siento que estemos en camino de prevenir una carrera global, lo que podría requerir acciones costosas como una prohibición temporal para mejorar las capacidades de los modelos', concluyó Coxon.
Finalmente, Coxon hizo un llamado a los investigadores del campo para reflexionar sobre si deben continuar avanzando simplemente porque consideran inevitable el desarrollo tecnológico o si es necesario replantearse ciertos aspectos éticos y prácticos relacionados con la inteligencia artificial.
Fuente: Meganoticias
· Daños provocados por los últimos eventos climáticos afectaron la línea de media tensión que conecta Camiña con la localidad.
· Autoridades trabajan en la reparación de la infraestructura y en una solución que permita contar con un sistema más seguro y confiable para las familias de la comuna.
La expansión de las energías renovables, el almacenamiento y la generación distribuida no solo está transformando la forma en que producimos y utilizamos la energía, sino también abriendo nuevos espacios laborales para técnicos y profesionales. Ese fue uno de los principales mensajes de la jornada desarrollada en INACAP Sede Iquique, donde estudiantes conocieron de primera fuente los desafíos y oportunidades que está generando el crecimiento del sector energético.
Apple revela su primer iPhone plegable y actualiza iPhone 18 Pro, Apple Watch y AirPods. Anuncia llegada de Siri AI con iOS 27 y más idiomas para usuarios de la marca.
La Confederación Nacional de Dueños de Camiones indica que el costo actual es un 50% más alto que en marzo.
Descubre la lista de convocados por el técnico Nicolás Córdova para los encuentros amistosos de la selección chilena contra Estados Unidos, México y Canadá.
La expansión de las energías renovables, el almacenamiento y la generación distribuida no solo está transformando la forma en que producimos y utilizamos la energía, sino también abriendo nuevos espacios laborales para técnicos y profesionales. Ese fue uno de los principales mensajes de la jornada desarrollada en INACAP Sede Iquique, donde estudiantes conocieron de primera fuente los desafíos y oportunidades que está generando el crecimiento del sector energético.
· Daños provocados por los últimos eventos climáticos afectaron la línea de media tensión que conecta Camiña con la localidad.
· Autoridades trabajan en la reparación de la infraestructura y en una solución que permita contar con un sistema más seguro y confiable para las familias de la comuna.
· El seremi de Energía de Tarapacá, Juan Ignacio Boudon, y el director regional de la Superintendencia de Electricidad y Combustibles (SEC), Sergio Barra, encabezaron una fiscalización al comercio establecido para verificar que las parrillas eléctricas y a gas que se comercializan en la región cuenten con su SELLO SEC y cumplan con las condiciones de seguridad exigidas por la normativa vigente.
· La jornada reunió a estudiantes de tercero medio de la especialidad de Electricidad del Colegio Robert Johnson y de la carrera de Técnico en Electricidad Industrial del CFT Estatal de Tarapacá, quienes conocieron los alcances de la generación distribuida y su importancia para el futuro desempeño laboral.
Amnistía Internacional denunció que Rusia engaña a extranjeros de países como Colombia, Brasil y Cuba con falsas ofertas de trabajo para que luchen en Ucrania.
La magistrada de la Corte de Apelaciones de Talca estará suspendida de sus funciones por dos meses.
La FIFA contradice a Marruecos y aclara que la elección de la sede para la final del Mundial 2030 aún no está definida.
Apple revela su primer iPhone plegable y actualiza iPhone 18 Pro, Apple Watch y AirPods. Anuncia llegada de Siri AI con iOS 27 y más idiomas para usuarios de la marca.
La Confederación Nacional de Dueños de Camiones indica que el costo actual es un 50% más alto que en marzo.
Descubre la lista de convocados por el técnico Nicolás Córdova para los encuentros amistosos de la selección chilena contra Estados Unidos, México y Canadá.
La expansión de las energías renovables, el almacenamiento y la generación distribuida no solo está transformando la forma en que producimos y utilizamos la energía, sino también abriendo nuevos espacios laborales para técnicos y profesionales. Ese fue uno de los principales mensajes de la jornada desarrollada en INACAP Sede Iquique, donde estudiantes conocieron de primera fuente los desafíos y oportunidades que está generando el crecimiento del sector energético.
· Daños provocados por los últimos eventos climáticos afectaron la línea de media tensión que conecta Camiña con la localidad.
· Autoridades trabajan en la reparación de la infraestructura y en una solución que permita contar con un sistema más seguro y confiable para las familias de la comuna.
· El seremi de Energía de Tarapacá, Juan Ignacio Boudon, y el director regional de la Superintendencia de Electricidad y Combustibles (SEC), Sergio Barra, encabezaron una fiscalización al comercio establecido para verificar que las parrillas eléctricas y a gas que se comercializan en la región cuenten con su SELLO SEC y cumplan con las condiciones de seguridad exigidas por la normativa vigente.
La Subsecretaría de Prevención del Delito presenta el Informe Nacional de Víctimas de Homicidios Consumados, destacando la disminución de homicidios en Chile durante el año 2026, aunque se observa un aumento en la relación con el crimen organizado.
La Armada de Chile despliega dos barcos y un avión para supervisar 70 pesqueros extranjeros a 900 millas náuticas de la costa, fuera de la ZEE.
El Real Betis, dirigido por Manuel Pellegrini, logra victoria en la UEFA Champions League ante el Lille de Francia, marcando su regreso triunfal después de dos décadas.
El ministro de Seguridad, Martín Arrau, habló sobre el despliegue del Gobierno para la conmemoración del 11 de septiembre.
Brandon Judd se refiere a la iniciativa 'Escudo de las Américas' durante su visita a Chile, mencionando la posibilidad de apoyo militar y leyes locales.
La Seremi de Salud Metropolitana ha iniciado un sumario sanitario contra el laboratorio Corthorn, responsable de realizar el test de drogas al exsubsecretario de Hacienda.
El CF Montreal se encuentra en una situación complicada en la MLS después de perder contra Charlotte. A pesar de contar con el chileno Alexis Sánchez durante todo el partido,...
El avión que trasladó al presidente de Ucrania, Volodimir Zelenski, desde Moldavia hasta Noruega estuvo cerca de ser alcanzado por un dron.
La Enap reveló los montos finales de las variaciones estimadas de los precios de los combustibles, justo antes de las celebraciones de Fiestas Patrias.
Un ex empleado de Anthropic y OpenAI alerta sobre los peligros de la inteligencia artificial y cuestiona la competencia por lograr una superinteligencia.
La Subsecretaría de Prevención del Delito presenta el Informe Nacional de Víctimas de Homicidios Consumados, destacando la disminución de homicidios en Chile durante el año 2026, aunque se observa un aumento en la relación con el crimen organizado.
La Armada de Chile despliega dos barcos y un avión para supervisar 70 pesqueros extranjeros a 900 millas náuticas de la costa, fuera de la ZEE.
El Real Betis, dirigido por Manuel Pellegrini, logra victoria en la UEFA Champions League ante el Lille de Francia, marcando su regreso triunfal después de dos décadas.
El ministro de Seguridad, Martín Arrau, habló sobre el despliegue del Gobierno para la conmemoración del 11 de septiembre.
Brandon Judd se refiere a la iniciativa 'Escudo de las Américas' durante su visita a Chile, mencionando la posibilidad de apoyo militar y leyes locales.
La Seremi de Salud Metropolitana ha iniciado un sumario sanitario contra el laboratorio Corthorn, responsable de realizar el test de drogas al exsubsecretario de Hacienda.
Según la prueba internacional, jóvenes de 15 años en Chile están por debajo de los promedios de la OCDE.
La Presidencia de la República adquiere 10 mil pines con la bandera chilena, generando debate sobre los gastos de la administración de José Antonio Kast.
El Presidente asegura que los derechos y ayudas comprometidos por ley no se verán afectados en el primer Presupuesto elaborado por su administración.
Gianni Infantino, actual presidente de la FIFA, anuncia que se postulará para su reelección en las próximas elecciones a pesar de críticas y retirada de apoyo por parte de algunas confederaciones como la UEFA.
