Amenazas mortales de IA: Realismo escalofriante alerta a activista australiano

La inteligencia artificial cruza línea roja: genera amenazas de muerte indistinguibles de la realidad.

Advertencia desde Australia

Un activista australiano expone cómo la IA ahora produce amenazas mortales con precisión aterradora—voz, tono y contenido que paralizarían a cualquiera. La tecnología avanza más rápido que las protecciones legales.

Realismo perturbador

Estas amenazas generadas artificialmente superan el valle inquietante: contienen matices emocionales, patrones de habla humanos y contexto personalizado que las hacen virtualmente indistinguibles de amenazas reales. Los sistemas detectan y replican patrones de agresión humana con eficacia alarmante.

Regulación en deuda

Mientras los legisladores debaten sobre criptomonedas, la IA desarrolla capacidades peligrosas sin supervisión—porque claro, regular tecnología que puede destruir vidas es menos urgente que controlar activos digitales que empoderan financieramente a las personas. Las prioridades regulatorias muestran su verdadero rostro.

La frontera ética se desvanece—y la tecnología avanza sin freno.

Un activista australiano pide cautela en el uso de la inteligencia artificial.

Según Roper, algunas de las publicaciones que recibió formaban parte de una campaña de odio dirigida contra ella y sus colegas de Collective Shout, un grupo activista australiano presente en X y otras redes sociales. Señaló que en una de las imágenes que le enviaron aparecía colgada de una soga, mientras que en otro video se la veía en llamas gritando. Otras publicaciones eran aún más explícitas, y los usuarios no escatimaban esfuerzos para difundir su mensaje.

Roper afirmó que en la mayoría de las imágenes y videos creados con inteligencia artificial, ella llevaba un vestido azul con estampado floral que, efectivamente, le pertenece. «Son esos pequeños detalles extraños los que lo hacen parecer más real y, de alguna manera, una violación de otro tipo», dijo. «Estas cosas pueden pasar de la fantasía a algo más que fantasía». Señaló que el aluvión de acoso en línea comenzó este verano tras su campaña para clausurar los videojuegos violentos que glorificaban escenas para adultos y el abuso.

Mencionó que algunas de las cuentas e imágenes dirigidas a ella habían sido eliminadas. Roper también mencionó que la empresa afirmó que otras publicaciones que mostraban su muerte violenta no infringían los términos de servicio de la plataforma. De hecho, afirmó que X, en algún momento, incluyó una de las cuentas que la acosaban en una lista de personas recomendadas para seguir. Roper mencionó que algunos de sus acosadores también afirmaron usar Grok para investigar cómo encontrar mujeres en sus casas y en cafeterías.

Roper quiere plataformas para abordar esta amenaza.

Roper afirmó que, harta de la situación, decidió publicar algunos ejemplos. Tras hacerlo, X le comunicó que sus cuentas infringían las normas de seguridad contra la violencia gratuita y bloqueó temporalmente su cuenta.

Mientras tanto, se ha llevado a cabo una campaña mundial contra la inteligencia artificial debido a su uso para cometer estafas. Los delincuentes ahora utilizan esta tecnología para imitar las voces de personas reales, empleándola en numerosas actividades ilícitas. Otras actividades incluyen la creación de contenido para adultos con inteligencia artificial sin el consentimiento expreso de la persona afectada.

Además de este tipo de contenido, algunos informes afirman que la inteligencia artificial también está haciendo que otras amenazas sean más convincentes. Por ejemplo, el swatting consiste en realizar llamadas de emergencia falsas con el objetivo de provocar una gran movilización de la policía y los servicios de emergencia. En verano, la Asociación Nacional de Fiscales Generales señaló que esta tecnología «ha intensificado significativamente la escala, la precisión y el anonimato» de este tipo de ataques.

En menor escala, el aumento de videos creados con inteligencia artificial que simulan allanamientos de morada ha provocado que losdentafectados llamen a la policía en todo el país. El informe afirma que quienes realizan llamadas falsas a la policía pueden convencer a las fuerzas del orden de realizar denuncias falsas mediante la clonación de voces y la manipulación de imágenes. Un delincuente habitual utilizó disparos simulados para sugerir que había un tirador en el estacionamiento de una escuela secundaria del estado de Washington. El campus permaneció cerrado durante 20 minutos tras la llegada de la policía y agentes federales.

Las mentes más brillantes del mundo de las criptomonedas ya leen nuestro boletín. ¿Te apuntas? ¡ Únete !