El gigante de la tecnología que más está apostando en sus móviles por dar protagonismo a la IA, Google, ha anunciado una serie de medidas estrictas para controlar las aplicaciones, curiosamente de inteligencia artificial. Y es que, si vas a operar en el jardín del ‘jefe’, mejor que lo hagas siguiendo sus normas.

Las novedades que acaba de anunciar Google hace pocas horas tienen un objetivo primordial de control y surge de las últimas polémicas que han rodeado a esta tecnología. Recordemos que hace unos días un grupo de expertos de la industria de la IA, como OpenAI y DeepMind, han lanzado múltiples advertencias sobre la amenaza de la desinformación y el uso la IA si nada ni nadie regula esta tecnología.

Por supuesto, Google quiere poner freno a esto, y lo va a hacer endureciendo sus normas. Es más, gran parte de estas nuevas directrices está enfocadas especialmente en aquellas apps que generan contenido inapropiado como deepfakes y desnudos falsos.

Y es que, como toda herramienta que puede ayudarnos en nuestro día a día, la IA también está girando hacia un lado más oscuro. Ya se han dado casos donde el uso indebido de aplicaciones de IA ha tenido repercusiones en el ámbito educativo, donde estudiantes han utilizado estas herramientas para intimidar y acosar a otros, creando y difundiendo desnudos falsos.

Google se pone serio

En un esfuerzo por frenar la proliferación de contenido perjudicial y no permitido, Google ha actualizado sus políticas para prohibir las aplicaciones que permitan la creación de desnudos generados por IA, así como cualquier material que sea violento o sexualmente explícito. Por supuesto, la propia marca alude que el objetivo de la compañía es el de de mantener un entorno seguro y respetuoso en su tienda de aplicaciones para usuarios de todo tipo de edades.

Por eso, más allá de implementar estas nuevas normas del uso de la IA en su tienda, Google también está trabajando estrechamente con los desarrolladores para garantizar que las aplicaciones cumplan con las nuevas directrices. Es por ello que, a partir de ahora, estos deberán realizar pruebas rigurosas de sus herramientas y modelos de IA para evitar la generación de contenido ofensivo. Además, las aplicaciones deben ofrecer mecanismos para que los usuarios denuncien contenido inapropiado generado por estos algoritmos y que puedan suponer un daño a terceros.

Pero las nuevas políticas no se quedan solo en esta IA generativa de contenidos de dudosa legalidad o moralidad sino que también incluyen restricciones estrictas en la publicidad. Con el aumento de plataformas en redes sociales que promocionan estas funcionalidades inapropiadas, Google quiere que las aplicaciones, ya no que ni siquiera lo hagan, sin que sugieran que pueden desnudar a personas o crear imágenes no consentidas queden prohibidas. Incluso si solo se insinúa esta capacidad en su marketing y luego la función no sea real.

Para apoyar a los desarrolladores a adaptarse a esta nueva normativa de Google Play, la compañía, además de publicar u dejar bien claras estas directrices, ha lanzado una serie de recursos adicionales, como su Guía People + AI, que proporciona orientación detallada sobre cómo crear aplicaciones de IA seguras y responsables que no afecten a los usuarios de forma negativa.

The post Google se pone firme y las prohibiciones a la IA llegan a Google Play appeared first on MovilZona.