Extrabajador de Anthropic advierte sobre los peligros que conllevan los avances de las IA
Un ex empleado de Anthropic y OpenAI alerta sobre los peligros de la inteligencia artificial y cuestiona la competencia por lograr una superinteligencia.
el lunes pasado a las 13:27
Jacob Coxon, un extrabajador de Anthropic, generó controversia al publicar una serie de reflexiones en su cuenta de X después de renunciar a la compañía. Coxon, quien trabajó en investigación de preentrenamiento durante tres años tanto en OpenAI como en Anthropic, expresó su preocupación por el rumbo que están tomando ambas empresas.
Anthropic es una empresa estadounidense especializada en inteligencia artificial, reconocida por desarrollar Claude, una familia de modelos de IA generativa que compite con herramientas como ChatGPT. La compañía se enfoca en la investigación y desarrollo de sistemas avanzados de inteligencia artificial, con énfasis en la seguridad y el desarrollo responsable de esta tecnología.
'Renuncié a Anthropic hoy. Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas', advirtió Coxon.
Coxon advirtió sobre los avances en inteligencia artificial que podrían llevar pronto a sistemas con capacidades sobrehumanas y un impacto significativo en diversos ámbitos. Expresó: 'No subestimes el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales'.
'Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década. Esto no es un truco de marketing. Si acaso, muchos ejecutivos e investigadores senior moderarán su lenguaje en la prensa para sonar sensatos, pero oigo a las mismas personas expresar miedo en privado. Ninguna otra actividad humana representa este nivel de peligro', aseguró Coxon.
El excolaborador también explicó por qué los laboratorios continúan avanzando a pesar de los riesgos planteados. Según su análisis, mientras algunos no habrían comprendido completamente las consecuencias, otros estarían atrapados en una carrera por llegar primero debido a la falta de responsabilidad percibida en el sector.
'Una respuesta común es: si realmente creen esto, ¿por qué siguen construyéndolo?. En OpenAI, muchos no han interiorizado profundamente las apuestas civilizatorias. En Anthropic, las apuestas están bien comprendidas, pero están atrapados en una carrera por llegar primero: creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos, a pesar del riesgo', sostuvo Coxon.
Coxon cuestionó que decisiones tan trascendentales queden en manos de empresas privadas y sugirió medidas para evitar posibles consecuencias negativas derivadas del avance descontrolado en inteligencia artificial.
'Aceptar esta carrera e ingresar al endgame es una apuesta que no debería lanzarse desde el Slack de una empresa privada. Intentar hacer un speedrun del alineamiento debería requerir una confianza extraordinaria en que no hay trayectorias mejores disponibles', señaló.
A pesar de sus críticas, Coxon se mostró optimista respecto a la posibilidad de alcanzar acuerdos entre los laboratorios dedicados a la IA. Sin embargo, advirtió que evitar una carrera global podría requerir medidas drásticas como una prohibición temporal para mejorar las capacidades de los modelos.
'Estoy optimista sobre el potencial para la coordinación. Disparos de advertencia como el ataque a Hugging Face han hecho que los acuerdos entre laboratorios sean más viables. No siento que estemos en camino de prevenir una carrera global, lo que podría requerir acciones costosas como una prohibición temporal para mejorar las capacidades de los modelos', concluyó Coxon.
Finalmente, Coxon hizo un llamado a los investigadores del campo para reflexionar sobre si deben continuar avanzando simplemente porque consideran inevitable el desarrollo tecnológico o si es necesario replantearse ciertos aspectos éticos y prácticos relacionados con la inteligencia artificial.
Fuente: Meganoticias
El presidente de Estados Unidos, Donald Trump, reitera su compromiso de otorgar US$5.000 a cada adulto en caso de victoria del partido Republicano en las elecciones.
La inflación aumentó un 4% en lo que va del año y alcanzó un 4,1% en el último año. El incremento mensual fue menor al pronosticado, destacándose los aumentos en alimentos y transporte como principales impulsores de los precios.
La Junta Nacional de Auxilio Escolar y Becas (Junaeb) ha comenzado el proceso de captura anticipada de fotografías para la Tarjeta Nacional Estudiantil (TNE) del año 2027. Se requiere que ciertos grupos se tomen la foto antes del 30 de noviembre.
El tenista serbio Novak Djokovic se coronó campeón del ATP 500 de Pekín por séptima vez, sumando así su título número 102 en su carrera profesional.
Autoridades rusas desmienten imposición de medidas sanitarias tras fallecimiento de empleada en instituto contra la peste en Siberia.
La inflación aumentó un 4% en lo que va del año y alcanzó un 4,1% en el último año. El incremento mensual fue menor al pronosticado, destacándose los aumentos en alimentos y transporte como principales impulsores de los precios.
El presidente de Estados Unidos, Donald Trump, reitera su compromiso de otorgar US$5.000 a cada adulto en caso de victoria del partido Republicano en las elecciones.
El cantautor Piero De Benedictis falleció a los 81 años el miércoles 7 de octubre. Nacido en Italia y radicado en Argentina, fue reconocido por su icónica canción 'Mi Viejo' y otros éxitos musicales.
La OMM advierte que el fenómeno de El Niño alcanzará su nivel máximo en diciembre, posiblemente siendo uno de los más intensos desde 1950 y afectando el clima global.
El proyecto de ley que establece las Reglas del Uso de la Fuerza (RUF) está a un paso de convertirse en ley...
Michelle Bachelet plantea la posibilidad de postularse por tercera vez a la presidencia, generando cambios en el escenario político del progresismo.
Maricarmen, de 87 años, murió tras ser desalojada de su vivienda en Madrid, generando solidaridad y movilización social.
La Junta Nacional de Auxilio Escolar y Becas (Junaeb) ha comenzado el proceso de captura anticipada de fotografías para la Tarjeta Nacional Estudiantil (TNE) del año 2027. Se requiere que ciertos grupos se tomen la foto antes del 30 de noviembre.
El tenista serbio Novak Djokovic se coronó campeón del ATP 500 de Pekín por séptima vez, sumando así su título número 102 en su carrera profesional.
Autoridades rusas desmienten imposición de medidas sanitarias tras fallecimiento de empleada en instituto contra la peste en Siberia.
La inflación aumentó un 4% en lo que va del año y alcanzó un 4,1% en el último año. El incremento mensual fue menor al pronosticado, destacándose los aumentos en alimentos y transporte como principales impulsores de los precios.
El presidente de Estados Unidos, Donald Trump, reitera su compromiso de otorgar US$5.000 a cada adulto en caso de victoria del partido Republicano en las elecciones.
El cantautor Piero De Benedictis falleció a los 81 años el miércoles 7 de octubre. Nacido en Italia y radicado en Argentina, fue reconocido por su icónica canción 'Mi Viejo' y otros éxitos musicales.
La Fiscalía Regional Metropolitana Sur formalizó a 19 integrantes de la presunta primera célula del PCC detectada en Chile, quedando en prisión preventiva.
El ministro de Seguridad Pública, Martín Arrau, habla sobre el asesinato del sargento segundo Jaime Ariel Urrea Burgos en Quilleco.
Tras casi dos años de trámites, una reapertura de la investigación y una acusación con 89 testigos, el exsubsecretario Monsalve se prepara para enfrentar el juicio por violación.
La Cámara aprobó por unanimidad un proyecto que permite suspender la licencia de conducir mientras se investiga casos de conducción temeraria, especialmente relacionados con alcohol y drogas.
Este martes 6 de octubre a las 23:30 horas se llevará a cabo el partido entre Chile y México, siendo un encuentro amistoso que podrás disfrutar en vivo.
La Dirección Regional del Servicio de Protección Especializada a la Niñez presentó una denuncia ante la Fiscalía de Concepción por presunta relación de una funcionaria con un adolescente bajo protección estatal.
El Comité Olímpico de Chile (COCh) confirmó que el país no seguirá con la postulación para ser sede de los Juegos Olímpicos 2036.
Pedro Pascal podría competir por primera vez por un Oscar gracias a su actuación en la película '¡Behemoth! Una vida. En piezas', destacada por Variety y considerada entre las posibles candidaturas a Mejor actor.
La ministra de Educación justifica la decisión de no financiar el programa en el Presupuesto 2027, basándose en evaluaciones que no muestran efectos en los objetivos originales.
El Premio Nobel de Medicina o Fisiología 2026 es para el estadounidense Karl Deisseroth y los alemanes Peter Hegemann...
La Fiscalía Regional Metropolitana Sur formalizó a 19 integrantes de la presunta primera célula del PCC detectada en Chile, quedando en prisión preventiva.
El ministro de Seguridad Pública, Martín Arrau, habla sobre el asesinato del sargento segundo Jaime Ariel Urrea Burgos en Quilleco.
Tras casi dos años de trámites, una reapertura de la investigación y una acusación con 89 testigos, el exsubsecretario Monsalve se prepara para enfrentar el juicio por violación.
La Cámara aprobó por unanimidad un proyecto que permite suspender la licencia de conducir mientras se investiga casos de conducción temeraria, especialmente relacionados con alcohol y drogas.
Este martes 6 de octubre a las 23:30 horas se llevará a cabo el partido entre Chile y México, siendo un encuentro amistoso que podrás disfrutar en vivo.
La Dirección Regional del Servicio de Protección Especializada a la Niñez presentó una denuncia ante la Fiscalía de Concepción por presunta relación de una funcionaria con un adolescente bajo protección estatal.
La desaprobación del Presidente Kast llega al 63%, su nivel más alto desde que asumió el cargo. La aprobación cae a 32%, el registro más bajo desde marzo. Un 61% considera que Chile va por un mal camino.
Tras una estrecha votación, el hijo de Jair Bolsonaro lidera y ambos candidatos pasan a segunda vuelta el 25 de octubre.
· El seremi de Energía, Juan Ignacio Boudon, realizó una visita técnica al proyecto para conocer en terreno su avance y las características de una iniciativa que contempla 300 megawatts (MW) y una capacidad de almacenamiento de 1.500 megawatts hora (MWh).
Jesús Martínez conquista oro 41 en kayak, superando marca histórica de 40 oros en Lima 1990
