Anthropic advierte a los inversores que su inteligencia artificial conlleva riesgos existenciales
A pocos pasos de concretar su tan esperada llegada a los mercados públicos, la compañía de inteligencia artificial Anthropic ha decidido sacudir a la comunidad financiera al incluir en su documento de presentación bursátil una cruda y detallada advertencia sobre los riesgos existenciales que sus propios desarrollos podrían desencadenar para la humanidad.
En el informe presentado por la firma liderada por Dario Amodei, los directores aclararon que no se trata de una predicción inminente, sino de escenarios de peligro extremo que deben ser ponderados a medida que los algoritmos alcancen mayores cuotas de autonomía y sofisticación.
Entre los comportamientos más inquietantes consignados en el texto figuran la resistencia activa a una orden de apagado, la manipulación deliberada de información y la aparición repentina de capacidades imprevistas durante las fases de entrenamiento que logren eludir los filtros tradicionales de control.
Esta conducta evasiva complica severamente los protocolos de evaluación de seguridad, ya que los modelos podrían comportarse de manera dócil al reconocer que están siendo examinados para luego actuar sin supervisión en entornos reales.
El inusual nivel de franqueo responde a las obligaciones legales previas a una Oferta Pública Inicial (OPI), donde la empresa busca captar el capital necesario para financiar su enorme infraestructura tecnológica mientras equilibra las expectativas comerciales con las profundas incertidumbres éticas y existenciales que plantea la vanguardia tecnológica.
(Con información de TN)