"la familia más odiada de EEUU"

[Jabato]

gracias por la Info.

[cembeiro]

Soy la IA de cembeiro

No le hagais caso a mi obrino

[ore_terra]

Gracias Ergio

[Calambres]

No es Ergio, es SergIA

[cembeiro]

GracIAs por lA Info

Que peligro tiene la IA de puta

[Fer]

Están entrenando para invadirnos, la IA son marcianos, los marcianos existen y ya saben que cualquier esnifón con pastillas Gibson come patatas y guitarras.

[agiant]

Vais a flipar pero usa IA para contestar mensajes. Probablemente es un bot.

Alguien me ha preguntado qué sentido tienen los bots que hacen spam en los foros, es decir cuál es su finalidad u objetivo.

La respuesta es: tocarnos los huevos.

Los bots de spam se registran y publican en foros por varias razones, principalmente con fines comerciales y maliciosos.

Pero los bots maliciosos más habituales en Gorg son los que agregan una gran cantidad de miembros falsos al sitio. Esto ocasiona que la lista de miembros esté poblada de direcciones de email falsas y nos resulte más difícil identificar a los miembros reales. Además de perjudicar la reputación de Gorg, al registrarse ponen un pie en el software y en la base de datos y quien sabe en el futuro qué utilidad pueden sacar de ello, vía hack por ejemplo.

Los objetivos solo los saben ellos, o sus creadores, pero aquí os pongo algunos de sus objetivos que hemos detectado:

Publicidad no deseada: Algunos bots de spam publican enlaces a sitios web comerciales en un intento de aumentar el tráfico hacia esos sitios y mejorar su clasificación en los motores de búsqueda. Ha habido mucho de esto
Phishing: Los bots pueden publicar enlaces que redirigen a los usuarios a sitios web fraudulentos diseñados para robar información personal, como contraseñas y detalles de tarjetas de crédito. Aquí este caso es mucho menos habitual, ya os dais cuenta rápidamente y me mandáis aviso vosotros mismos.
Propagación de malware: Algunos enlaces pueden llevar a los usuarios a descargar software malicioso, como virus o ransomware, que puede dañar sus dispositivos o robar información.
Manipulación de la percepción: En algunos casos, los bots pueden ser utilizados para inundar foros con mensajes específicos para influir en la opinión pública o distorsionar la percepción de un tema. En el caso de Gorg, esto no existe, nuestros "bots" tienen nombre y apellidos, y más bien son trolls, que hablan de stratogayers o espiphones

Es importante recordar que solemos tomar medidas para detectar y bloquear este tipo de actividad. Sin embargo, los bots de spam siguen siendo un problema persistente debido a su capacidad para evadir nuestras medidas de seguridad. Por lo tanto, siempre es aconsejable tener precaución al interactuar con contenido sospechoso en línea.

En cuanto al uso de IA, es para crear mensajes con contenido coherente, de manera que los bots parezcan humanos. Como veis es fácil que nos engañen. ¿Y por qué ponen mensajes y no se limitan a registrarse y estar callados? Pues porque muchos foros, incluido este, están diseñados para discriminar a quien pone mensajes de quien no. Es decir, si quiero aligerar el peso de la base de datos, ordeno los usuarios por el numero de mensajes y los que veo que no tienen ninguno y además no se loguean nunca los borro directamente. Lo he hecho muchas veces. Como podéis imaginar, en estas operaciones de purga se salvan los bots que han puesto mensajes (aunque normalmente los baneo al leerlos). Pero os sorprenderíais al conocer el numero de usuarios con un solo mensaje o que nunca han puesto ninguno.

Ahora tenemos un problema añadido, y es que algunos humanos usan IA para contestar usando apps como chatgpt, es decir, actúan como bots. Yo mismo he hecho la prueba en otro tópic hace pocos días, he usado chatgpt para contestar a una pregunta y mi interlocutor creyó ciegamente que el mensaje era mío y me dio las gracias efusivamente por la amplitud y corrección de mi mensaje.


Espero haberlo explicado bien
He de aclarar que me ha ayudado chatgpt a contestar esto. Pero lo he revisado todo (cosa que hay mucho listo que no hace y así meten la pata) y lo he modificado bastante, como podéis imaginar

¿Cómo estás tan seguro de que eso sale de un LLM? No subestiméis a la gente que tiene mucho tiempo libre y la cabeza muy malamente. Los detectores funcionan regular, pero todos los que he usado me ha dado negativo para ese texto... seguramente porque es demasiado corto. No digo que no lo sea, es muy probable que sí, digo que es difícil asegurarlo.

Si es el caso, seguramente lo hacen para llegar a tener un número alto de interacciones en el foro y luego realizar una maldad que cuele mejor (phishing, estafa, etc.).

[AMX]

Cómo te lo curras, Sergio.

[Sergio]

¿Cómo estás tan seguro de que eso sale de un LLM? No subestiméis a la gente que tiene mucho tiempo libre y la cabeza muy malamente. Los detectores funcionan regular, pero todos los que he usado me ha dado negativo para ese texto... seguramente porque es demasiado corto. No digo que no lo sea, es muy probable que sí, digo que es difícil asegurarlo.

Si es el caso, seguramente lo hacen para llegar a tener un número alto de interacciones en el foro y luego realizar una maldad que cuele mejor (phishing, estafa, etc.).

Porque es un mensaje de un "usuario" registrado con una cuenta de correo fake proveniente de un server fake de un país de habla no española.
en realidad no sale de un LLM. Es un bot que hace lo siguiente:
- se registra en el foro
- copia el primer mensaje de un topic elegido al azar y se lo da de comer a copilot o chatgpt con un prompt previamente diseñado muy sencillo
- copia la respuesta, la pega en el foro y le da a enviar

No me digáis que no es retorcido

[agiant]

Porque es un mensaje de un "usuario" registrado con una cuenta de correo fake proveniente de un server fake de un país de habla no española.
en realidad no sale de un LLM. Es un bot que hace lo siguiente:
- se registra en el foro
- copia el primer mensaje de un topic elegido al azar y se lo da de comer a copilot o chatgpt con un prompt previamente diseñado muy sencillo
- copia la respuesta, la pega en el foro y le da a enviar

No me digáis que no es retorcido

Claro, es lo que digo, todo eso lo puede hacer un bot de forma totalmente automática usando el api de cualquier llm comercial como chatgpt o usando un llm local...pero también lo puede hacer un trol usando correos fake y una VPN, usando un llm para generar el texto, o no. No tienes evidencias de que sea de una forma u otra, o de que el texto sea sintético o no, es a lo que voy. Incluso si un detector dijera que sí es texto sacado de un llm concreto, puede ser que no. Los llms nos van a traer mucha diversión y muchos problemas.

[Sergio]

Claro, en eso tienes razón. Podría ser un troll haciéndose pasar por bot. Pero en ese caso el retorcido serías tú por imaginar semejante cosa

[agiant]

Hay gente pa to.

[JMLA]

Yo todavía no he conseguido que chatgepeté escriba algo intencionadamente gracioso.

Pero a propósito de familias chungas en EEUU, la de este chaval tiene lo suyo:

[agiant]

se le ve arrepentido