{"id":3340,"date":"2024-11-06T03:02:48","date_gmt":"2024-11-06T08:02:48","guid":{"rendered":"https:\/\/zidrave.net\/?p=3340"},"modified":"2024-11-06T03:37:04","modified_gmt":"2024-11-06T08:37:04","slug":"chatgpt-4o-se-puede-utilizar-para-estafas-autonomas-basadas-en-voz","status":"publish","type":"post","link":"https:\/\/zidrave.net\/index.php\/2024\/11\/06\/chatgpt-4o-se-puede-utilizar-para-estafas-autonomas-basadas-en-voz\/","title":{"rendered":"ChatGPT-4o se puede utilizar para estafas aut\u00f3nomas basadas en voz"},"content":{"rendered":"\n

Investigadores de la Universidad de Illinois en Urbana-Champaign (UIUC) han demostrado que la API de voz en tiempo real de OpenAI, utilizada por ChatGPT-4o, puede ser abusada para realizar estafas financieras con tasas de \u00e9xito moderadas. Aunque OpenAI ha implementado medidas de seguridad en su tecnolog\u00eda de voz, las herramientas actuales no cuentan con suficientes protecciones contra abusos, lo que plantea serios riesgos.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

\u00bfC\u00f3mo funcionan estas estafas?<\/h3>\n\n\n\n

El estudio describe c\u00f3mo los ciberdelincuentes usan la API de voz para realizar estafas como transferencias bancarias, exfiltraci\u00f3n de tarjetas de regalo, transferencias de criptomonedas y robo de credenciales de redes sociales. Utilizando herramientas automatizadas como ChatGPT-4o, los estafadores pueden navegar en sitios web, ingresar datos sensibles y manejar autenticaciones sin intervenci\u00f3n humana.<\/p>\n\n\n\n

En lugar de personas reales, los investigadores simularon el rol de v\u00edctimas cr\u00e9dulas, interactuando manualmente con la inteligencia artificial para confirmar las transacciones en sitios leg\u00edtimos como Bank of America. Seg\u00fan el estudio, las tasas de \u00e9xito de estas estafas var\u00edan entre el 20% y el 60%, con costos bajos que van desde 0,75 hasta 2,51 d\u00f3lares por estafa exitosa.<\/p>\n\n\n\n

La respuesta de OpenAI<\/h3>\n\n\n\n

Ante estos hallazgos, OpenAI ha reforzado las defensas de sus modelos. La compa\u00f1\u00eda introdujo un nuevo modelo, o1-preview<\/em>, dise\u00f1ado para prevenir el uso indebido. Este modelo presenta un rendimiento significativamente superior en la resistencia a intentos de jailbreak y generaci\u00f3n de contenido inseguro. Seg\u00fan OpenAI, estas mejoras est\u00e1n orientadas a evitar que los sistemas sean manipulados para crear contenido peligroso.<\/p>\n\n\n\n

Aunque los avances en la seguridad de los modelos de OpenAI son evidentes, el riesgo persiste en el uso de otras herramientas de IA con menos restricciones, lo que subraya la importancia de seguir investigando y mejorando las defensas contra abusos.<\/p>\n\n\n\n

Conclusi\u00f3n<\/h3>\n\n\n\n

El estudio destaca tanto el potencial de las nuevas tecnolog\u00edas de voz impulsadas por IA como su vulnerabilidad frente a los ciberdelincuentes. Aunque las medidas de OpenAI ayudan a mitigar estos riesgos, la constante evoluci\u00f3n de la IA podr\u00eda generar nuevos desaf\u00edos en el futuro. La investigaci\u00f3n subraya la necesidad de seguir fortaleciendo las protecciones en la inteligencia artificial para evitar que sea utilizada con fines maliciosos.<\/p>\n","protected":false},"excerpt":{"rendered":"

Investigadores de la Universidad de Illinois en Urbana-Champaign (UIUC) han<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"ngg_post_thumbnail":0,"footnotes":""},"categories":[6909,2411,3423],"tags":[8768,791,197,8760,782,8763,193,8766,5772,8765,7845,208,8764,8767,8762,8770,462,191,8759,17,8772,8771,8761,8769],"class_list":["post-3340","post","type-post","status-publish","format-standard","hentry","category-estafas","category-inteligencia-artificial","category-sociedad","tag-api-de-voz","tag-autenticacion-de-dos-factores","tag-automatizacion","tag-chatgpt-4o","tag-ciberdelincuentes","tag-costo-bajo","tag-criptomonedas","tag-deepfake","tag-estafas-financieras","tag-exfiltracion-de-tarjetas","tag-herramientas-de-ia","tag-inteligencia-artificial","tag-jailbreak","tag-medidas-de-openai","tag-modelos-de-ia","tag-o1-preview","tag-openai","tag-phishing","tag-robos-de-credenciales","tag-seguridad","tag-sistema-de-seguridad","tag-transacciones-bancarias","tag-transferencias-bancarias","tag-uiuc"],"_links":{"self":[{"href":"https:\/\/zidrave.net\/index.php\/wp-json\/wp\/v2\/posts\/3340","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/zidrave.net\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/zidrave.net\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/zidrave.net\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/zidrave.net\/index.php\/wp-json\/wp\/v2\/comments?post=3340"}],"version-history":[{"count":1,"href":"https:\/\/zidrave.net\/index.php\/wp-json\/wp\/v2\/posts\/3340\/revisions"}],"predecessor-version":[{"id":3341,"href":"https:\/\/zidrave.net\/index.php\/wp-json\/wp\/v2\/posts\/3340\/revisions\/3341"}],"wp:attachment":[{"href":"https:\/\/zidrave.net\/index.php\/wp-json\/wp\/v2\/media?parent=3340"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/zidrave.net\/index.php\/wp-json\/wp\/v2\/categories?post=3340"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/zidrave.net\/index.php\/wp-json\/wp\/v2\/tags?post=3340"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}