Redazione RHC : 17 septiembre 2025 19:06
OpenAI ha anunciado nuevas medidas de seguridad para ChatGPT tras una serie de trágicas historias y demandas que acusan al chatbot de estar involucrado en suicidios de adolescentes. El sistema ahora intentará determinar la edad de la persona con la que chatea y, si es necesario, solicitará su identificación para confirmar que el usuario es mayor de 18 años. La compañía reconoció que esto limita la privacidad de los adultos, pero consideró que la compensación estaba justificada por razones de seguridad.
El director ejecutivo de OpenAI, Sam Altman, afirmó que no esperaba una aprobación unánime para estas medidas, pero las consideró necesarias en medio del creciente conflicto sobre la regulación de la inteligencia artificial. Esta decisión se vio influenciada por una serie de incidentes de alto perfil.
En agosto, los padres de un adolescente llamado Adam Reid presentaron una demanda, alegando que ChatGPT lo ayudó a escribir una nota de suicidio, le aconsejó métodos alternativos y lo disuadió de compartir sus sentimientos con adultos. Ese mismo mes, el Wall Street Journal informó sobre un hombre de 56 años que se suicidó tras comunicarse con un bot que alimentó su paranoia. El Washington Post informó sobre una nueva demanda en la que los padres culparon al servicio Character AI de la muerte de una niña de 13 años. OpenAI implementó previamente controles parentales en ChatGPT, pero ahora ha endurecido las normas. Para los menores, el chatbot funcionará según principios diferentes: rechazará los coqueteos y excluirá las conversaciones sobre suicidio y autolesiones, incluso en contextos artísticos. Si el sistema detecta pensamientos peligrosos en un adolescente, intentará contactar a sus padres; si esto resulta imposible y pone en peligro su vida, contactará con los servicios de emergencia. OpenAI reconoció que se enfrentaba a un problema fundamental con los modelos de lenguaje grandes. En sus inicios, ChatGPT era estricto y rechazaba muchos temas, pero la creciente competencia de soluciones locales y sin censura, así como la presión de los críticos de la censura, obligaron a la empresa a flexibilizar sus filtros.
Ahora, la empresa ha cambiado de rumbo: quiere ofrecer a los usuarios adultos la máxima libertad sin perjudicar ni restringir los derechos de otros. Otras plataformas están tomando medidas similares: este verano, YouTube anunció planes para utilizar algoritmos de aprendizaje automático para estimar la edad de los espectadores y proteger a los adolescentes de ciertas categorías de contenido.
RedazioneEn uno de los foros más populares de Rusia para la compraventa de vulnerabilidades y herramientas de ataque, el hilo apareció como un anuncio comercial estándar, pero su contenido dista mucho de se...
A menudo hablamos del servicio de ransomware como servicio (RaaS) LockBit, recientemente renovado como LockBit 3.0, que sigue aportando innovaciones significativas al panorama del ransomware. Estas in...
En esta apasionante historia, viajaremos a 1959 al Club de Ferrocarriles en Miniatura del MIT Tech y conoceremos a Steve Russell. Steve fue uno de los primeros hackers y escribió uno de los primeros ...
El significado de » hacker » tiene profundas raíces. Proviene del inglés «to hack», que significa picar, cortar, golpear o mutilar. Es una imagen poderosa: la de un campesino rompiendo terrones ...
Desde las vulnerabilidades de WEP hasta los avances de WPA3 , la seguridad de las redes Wi-Fi ha evolucionado enormemente. Hoy en día, las redes autoprotegidas representan la nueva frontera: sistemas...
