Clasificación de mensajes extorsivos usando modelos de aprendizaje automático y modelo de lenguaje grande
DOI:
https://doi.org/10.15649/2346030X.5590Palabras clave:
procesamiento de lenguaje natural, clasificación, aprendizaje automático, modelo de lenguaje grandeResumen
Este trabajo aborda el problema de la clasificación de mensajes extorsivos; los mensajes extorsivos contienen palabras que expresan una amenaza a alguien, están escritos en español con un sin número de errores ortográficos y palabras abreviadas. Se ha puesto en práctica los conceptos de procesamiento de lenguaje natural, aprendizaje automático y aprendizaje profundo. Se construyó un dataset con mensajes extorsivos y no extorsivos; se entrenaron y validaron tres modelos: uno con random forest, otro con una máquina de vectores de soporte; se entrenó un último modelo con BETO, versión BERT en español. Se evaluaron los resultados obtenidos mediante la comparación de los indicadores de la matriz de confusión de cada modelo y con distintas configuraciones; se concluye que los modelos alcanzan una exactitud muy alta; sin embargo, el entrenamiento con BETO fue costoso en tiempo y dinero, por lo que los modelos tradicionales tienen buena performance en este problema y puede ser utilizados en problemas de clasificación similares, como por ejemplo, en la clasificación de otros delitos como estafas, acoso, análisis de sentimientos en contextos específicos.
Referencias
[1] K. Guan et al., “IEEE Access Special Section Editorial: 5G and beyond mobile wireless communications enabling intelligent mobility,” IEEE Access, vol. 8, pp. 208892–208897, 2020, doi: 10.1109/ACCESS.2020.3037635.
[2] V. dos Santos Riedo and S. A. Carro, “Um modelo para extração, estruturação, indexação e recuperação de casos clínicos publicados na web,” Colloquium Exactarum, vol. 11, no. 2, pp. 91–100, 2019, doi: 10.5747/ce.2019.v11.n2.e278.
[3] E. Elsaeed, O. Ouda, M. M. Elmogy, A. Atwan, and E. El-Daydamony, “Detecting fake news in social media using voting classifier,” IEEE Access, vol. 9, pp. 161909–161925, 2021, doi: 10.1109/ACCESS.2021.3132022.
[4] M. Callejas Cuervo and M. A. Vélez Guerrero, “Predicción electoral usando un modelo híbrido basado en análisis sentimental y seguimiento a encuestas: elecciones presidenciales de Colombia,” Revista Politécnica, vol. 15, no. 30, pp. 94–104, 2019, doi: 10.33571/rpolitec.v15n30a9.
[5] R. Anggrainingsih, G. M. Hassan, and A. Datta, “CE-BERT: Concise and efficient BERT-based model for detecting rumors on Twitter,” IEEE Access, vol. 11, pp. 80207–80217, 2023, doi: 10.1109/ACCESS.2023.3299858.
[6] S. H. Al Sulaimani and A. Starkey, “Short text classification using contextual analysis,” IEEE Access, vol. 9, pp. 149619–149629, 2021, doi: 10.1109/ACCESS.2021.3125768.
[7] Z. E. Rasjid and R. Setiawan, “Performance comparison and optimization of text document classification using k-NN and Naïve Bayes classification techniques,” Procedia Comput. Sci., vol. 116, pp. 107–112, 2017, doi: 10.1016/j.procs.2017.10.017.
[8] R. Ahamad and K. N. Mishra, “Exploring sentiment analysis in handwritten and E-text documents using advanced machine learning techniques: A novel approach,” J. Big Data, vol. 12, no. 1, Art. no. 11, 2025, doi: 10.1186/s40537-025-01064-2.
[9] J. R. Davalos-Miranda, “Análisis del Sentimiento: Exploración de League of Legends y su comunidad en Twitter,” M.S. thesis, Universidad Internacional de La Rioja (UNIR), 2022.
[10] C. Simón-Gallego, “Comparativa de modelos de aprendizaje profundo para la detección de odio en castellano en medios de información social,” M.S. thesis, Universidad Internacional de La Rioja (UNIR), 2023.
[11] K. Taneja, J. Vashishtha, and S. Ratnoo, “Fraud-BERT: transformer based context aware online recruitment fraud detection,” Discover Computing, vol. 28, Art. no. 9, 2025, doi: 10.1007/s10791-025-09502-8.
[12] I. Belzunegui-Gabilondo, “Creación de un clasificador de sentimientos de alumnos mediante minería de opinión,” M.S. thesis, Universidad Internacional de La Rioja (UNIR), 2023.
[13] M. E. Mswahili, J. Hwang, J. C. Rajapakse, K. Jo, and Y.-S. Jeong, “Positional embeddings and zero-shot learning using BERT for molecular-property prediction,” J. Cheminform., vol. 17, no. 1, Art. no. 17, 2025, doi: 10.1186/s13321-025-00959-9.
[14] Y. Yang and X. Peng, “BERT-based network for intrusion detection system,” EURASIP J. Inf. Secur., vol. 2025, no. 1, Art. no. 11, 2025, doi: 10.1186/s13635-025-00191-w.
[15] N. M. Gardazi, A. Daud, M. K. Malik, A. Bukhari, T. Alsahfi, and B. Alshemaimri, “BERT applications in natural language processing: a review,” Artif. Intell. Rev., vol. 58, no. 6, Art. no. 166, 2025, doi: 10.1007/s10462-025-11162-5.
[16] M. Maktabdar Oghaz, L. Babu Saheer, K. Dhame, and G. Singaram, “Detection and classification of ChatGPT-generated content using deep transformer models,” Front. Artif. Intell., vol. 8, Art. no. 1458707, 2025, doi: 10.3389/frai.2025.1458707.
[17] C. Samper-Quinto, “Análisis de sentimiento en procesamiento cuántico del lenguaje natural en un contexto financiero,” M.S. thesis, Universidad Internacional de La Rioja (UNIR), 2023.
[18] O. Elizarraras and J. Chakraborty, “The use of social media in generating health information support for Spanish users,” Procedia Comput. Sci., vol. 256, pp. 1183–1191, 2025, doi: 10.1016/j.procs.2025.02.227.
[19] K. C. Argomedo Pflücker and A. T. Cóndor Ruiz, “Diseño de un sistema inteligente utilizando procesamiento de lenguaje natural (PLN) para el reconocimiento de mensajes extorsivos,” B.S. thesis, Universidad Nacional de Trujillo, Trujillo, Peru, 2015.
[20] C. M. Liapis, A. Karanikola, and S. Kotsiantis, “Enhancing sentiment analysis with distributional emotion embeddings,” Neurocomputing, vol. 634, Art. no. 129822, 2025, doi: 10.1016/j.neucom.2025.129822.
Licencia
Derechos de autor 2026 AiBi Revista de Investigación, Administración e Ingeniería
Esta obra está bajo una licencia internacional Creative Commons Atribución 4.0.
La revista ofrece acceso abierto bajo una Licencia Creative Commons Attibution License
Esta obra está bajo una licencia Creative Commons Attribution (CC BY 4.0).
Descargas
