Inteligencia artificial y falsa ciencia

Inteligencia artificial y ciencia

Inteligencia artificial y falsa ciencia… La práctica de la ciencia consiste en tratar de averiguar cosas sobre el mundo utilizando una lógica rigurosa y poniendo a prueba cada hipótesis. A continuación, los investigadores redactan los resultados más importantes en artículos y los presentan para su posible publicación. Tras un proceso de revisión por pares, en el que otros científicos comprueban que la investigación es válida, las revistas publican los trabajos para el público.

Por lo tanto, se puede creer razonablemente que los trabajos publicados son bastante fiables y cumplen con los altos estándares de calidad de smodin aplicacion que cambia las palabras. Cabe esperar que haya errores menores que se hayan pasado por alto durante la revisión por pares, pero no errores importantes. Después de todo, ¡esto es ciencia!

Sin embargo, uno se equivocaría al esperar eso. Existe ciencia real y buena, pero también hay una cantidad preocupante de investigaciones falsas. Y en los últimos años, su volumen ha aumentado a la velocidad del rayo, como demuestra el vertiginoso número de publicaciones retractadas.

Inteligencia artificial y falsa ciencia

Actualmente, varias prácticas amenazan con socavar la legitimidad de la investigación científica. Incluyen autores inventados, la adición de científicos que no tienen nada que ver con un artículo como coautores, e incluso prácticas más nefastas como inundar las revistas con basura de baja calidad escrita por la Inteligencia artificial y falsa ciencia.

Este proceso es similar a la retirada de productos del supermercado. Si un producto vendido anteriormente es malo o peligroso por alguna razón, la tienda puede decidir retirarlo y pedir a todos los clientes que no lo utilicen. Del mismo modo, una revista puede recordar un artículo publicado que, en retrospectiva, resultó ser falso.

Por supuesto, a veces los artículos se retiran porque los autores cometieron un error honesto en su investigación. En más de la mitad de los casos, sin embargo, se debe a una mala conducta académica o a un fraude. Hasta hace una década, este tipo de comportamiento se limitaba más o menos a los investigadores que falsificaban los datos experimentales o alteraban los resultados para favorecer su teoría. Sin embargo, cuanto más sofisticada se ha vuelto la tecnología, más se han complicado las cosas.

La inteligencia artificial para la contratación puede ser objetiva, si la diseñamos de forma responsable.

Una solución sencilla sería ignorar los documentos ficticios. El problema, sin embargo, es que a menudo son difíciles de identificar. Además, una vez que se retira un artículo de una publicación, en cierto modo se denuncia a toda la revista. Si esto ocurre con suficiente frecuencia, la confianza del público en la ciencia en su conjunto disminuye. Por tanto, la comunidad científica en su conjunto debe tomarse en serio este problema.

&nbsp smodin.io: plataforma de reescritura web automática revisión completa de jarvis.ai la intención: la clave para liberar todo tu potencial con la inteligencia artificial la comodidad del cliente con la tecnología de ia aquí hay algunas ventajas y desventajas.;

Leer tambien: La inteligencia artificial para la contratación puede ser objetiva, si la diseñamos de forma responsable

Inteligencia Artificial

Parte de este problema es analógico. Camille no tiene mucho que ver con la IA, pero aun así merece una mención. Nacido en marzo de 2020, Noûs es coautor de más de 180 publicaciones en campos tan diversos como la astrofísica, la informática o la biología.

Digo “es” porque Noûs no es una persona real, sino un artefacto inventado por el grupo francés que apoya la investigación. RogueESR. Tiene el nombre de pila francés Camille, de género neutro, y una fusión de la antigua palabra griega “νοῦς”, que significa razón o cognición, y la palabra francesa “nous”, que significa “nosotros”.

Noûs se creó como respuesta a una nueva ley muy criticada (fuente en francés) para reorganizar la investigación académica en Francia. Aunque el objetivo de la ley era mejorar la investigación, sus críticos creen que el trabajo de los científicos será injustamente precario y dependiente de la financiación externa según sus requisitos. En particular, la financiación que obtenga un científico tendrá que depender de sus resultados anteriores, aunque la investigación sea a menudo un esfuerzo comunitario.

Para hacer visible esta preocupación, muchos investigadores han optado por añadirnos como coautores.

Las revistas y los revisores encargados de comprobar estos trabajos no siempre han sido informados de que Noûs no es una persona real.

Aunque la parte de investigación de todos estos trabajos parece legítima, es preocupante que se pueda añadir tan fácilmente un coautor que ni siquiera tiene documento de identidad. Aunque destacar los esfuerzos conjuntos de autores como Noûs es un objetivo honorable, la idea de que hoy en día se pueden inventar científicos de la nada es bastante alarmante.

Añadir autores donde no los hay con la Inteligencia artificial y falsa ciencia

Inteligencia artificial y falsa ciencia

Sin embargo, destacar las deficiencias del sistema de revisión por pares y del mundo académico no es el único lugar donde se manifiesta este problema. Especialmente en los artículos sobre IA, se han multiplicado los casos de falsa coautoría. Este engaño incluye la práctica de añadir a un científico de alto nivel como coautor sin su conocimiento o consentimiento. Otra forma de hacerlo es añadir un coautor ficticio, un poco como Camille, pero con el objetivo de fingir una colaboración internacional o un discurso científico más amplio.

Además de dar la ilusión de una colaboración internacional, añadir autores falsos con credenciales respetables puede aumentar la credibilidad de un artículo.

Muchos científicos buscan en Google los nombres de los autores antes de leer un artículo o citarlo en su propio trabajo. Pero ver a un coautor de una institución prestigiosa puede hacer que se fijen más en un artículo, sobre todo si aún no ha sido revisado por pares. Por lo tanto, el prestigio de una institución puede actuar como indicador de credibilidad hasta que se complete la revisión por pares, que puede llevar muchos meses.

No está claro cuántos autores falsos se han añadido hasta ahora. Por un lado, algunos científicos pueden optar por ignorar el hecho de que su nombre figure en un artículo que no han escrito, principalmente porque el contenido de los artículos en cuestión no suele ser terrible (aunque no es excepcional) y las acciones legales pueden resultar muy caras y largas. Además, actualmente no existe un método estándar para verificar la identidad de un científico antes de publicar un artículo. Esto da un pase libre a los falsos autores.

Todos estos problemas demuestran la necesidad de algún tipo de proceso de verificación de la identidad. Actualmente, no hay nada formal, lo que es una pena. En una época en la que cualquier banco puede verificar su identidad en línea y compararla con el rostro de su cámara web, la ciencia ni siquiera puede proteger a sus empleados más valiosos de los estafadores.

Inteligencia artificial y falsa ciencia: Los algoritmos producen malos artículos

En 1994, el físico Alan Sokal tuvo el impulso de escribir un artículo falso sobre algún tema relacionado con las humanidades y presentarlo a una revista. Se aceptó, aunque nadie, incluido el propio autor, entendiera lo que decía. Esto no sólo es ridículo, sino que también muestra lo perezosos que pueden ser los revisores. En este caso, aceptaron literalmente lo que era esencialmente un artículo sin sentido.

En esta línea, en 2005, un trío de estudiantes de informática decidió desarrollar un programa de gestión de recursos humanos. SCIgen como una broma para el mundo de la investigación. Este programa produce documentos completamente sin sentido, completos con gráficos, figuras y citas, salpicados con un montón de palabras de moda en informática. En ese momento, uno de sus trabajos sin sentido fue aceptado para una conferencia. Además, en 2013, 120 trabajos fueron retirados por varias editoriales tras descubrir que SCIgen los había escrito.

En 2015, el sitio todavía tenía 600.000 visitas al año.

Pero, por desgracia, los papeles falsos no se generan sólo como una broma. Empresas enteras ganan dinero escribiendo artículos de lujo y enviándolos a revistas depredadoras que no rechazan casi nada porque cobran por publicarlos. Estas empresas, también llamadas papeleras, son cada vez más sofisticadas en sus métodos. Aunque la detección de fraudes también está mejorando, los expertos temen legítimamente que estos actores sin escrúpulos, que han perfeccionado su oficio dirigiéndose a las revistas de baja calidad, intenten inundar las auténticas. Esto podría llevar a una carrera armamentística entre las fábricas y las revistas que no quieren publicar trabajos falsos.

Por supuesto, hay otra pregunta en el horizonte: ¿cuánto tiempo más serán los humanos los únicos que escriban trabajos de investigación? ¿Es posible que dentro de 10 o 20 años los algoritmos con Inteligencia artificial y falsa ciencia sean capaces de cribar automáticamente toda la literatura y plasmar sus hallazgos en un nuevo artículo que cumpla con los más altos estándares de investigación? ¿Cómo daremos crédito a estos algoritmos o a sus creadores?

Sin embargo, hoy nos enfrentamos a una cuestión mucho más tonta: ¿cómo podemos identificar los artículos que han sido escritos por algoritmos relativamente poco sofisticados y que no producen ningún contenido significativo? Y cómo lidiar con el servicio de atención al cliente de la IA. Aparte de los esfuerzos voluntarios y de obligar a los autores fraudulentos a retractarse de sus trabajos, la comunidad científica tiene sorprendentemente pocas respuestas a esta cuestión.

Inteligencia artificial y falsa ciencia: Actuar contra la ciencia falsa

La mayoría de las revistas de renombre para perder tienen al menos un proceso básico de verificación del correo electrónico para los investigadores que desean presentar un artículo. He aquí, por ejemplo, el sistema de verificación de la revista Science. Sin embargo, crear una dirección de correo electrónico falsa y llevar a cabo el procedimiento es bastante fácil. Este tipo de fraude sigue ocurriendo con demasiada frecuencia, como demuestra la cantidad de artículos que se retractan cada año, incluso en revistas de prestigio. Por lo tanto, necesitamos sistemas más fuertes.

Un buen método para verificar la identidad de un científico es ORCID. Básicamente, a través de este sistema, cada investigador puede obtener un identificador único, que se vincula automáticamente a su CV. El uso de ORCID en todos los procesos de revisión por pares y de publicación en revistas haría mucho más difícil crear una identidad falsa o utilizar las credenciales de otro investigador sin su conocimiento o consentimiento. Aunque se trata de una iniciativa excelente, ninguna revista importante ha hecho obligatoria la utilización de ORCID u otros identificadores de fuente para todos los autores. En mi opinión, esto es una vergüenza, y algo que podría solucionarse fácilmente.

Por último, la inteligencia artificial podría ser útil en esta lucha.

Algunas revistas están empleando modelos de Inteligencia artificial y falsa ciencia para detectar contribuciones falsas. Sin embargo, hasta ahora las revistas no han podido ponerse de acuerdo sobre una norma común. En consecuencia, las revistas que carecen de los recursos o conocimientos necesarios no pueden aplicar las mismas medidas de calidad que las publicaciones de mayor nivel.

Esto aumenta la brecha percibida entre las revistas de alto y bajo nivel y, en mi opinión, es una prueba clara de que las revistas de todo el mundo deberían unirse y encontrar una forma de compartir recursos para la detección de fraudes. Por supuesto, las revistas de alto nivel podrían beneficiarse de la falta de competencia a corto plazo. Sin embargo, a largo plazo, un mayor número de revistas de bajo nivel podría reducir la confianza en la publicación científica en su conjunto.

Sin embargo, no es que los investigadores y las revistas científicas se queden de brazos cruzados en lugar de buscar autores fraudulentos. Las publicaciones individuales, de hecho, hacen mucho por descubrir los documentos falsos. Pero si algunas revistas tienen los medios y otras no, las publicaciones no funcionan en igualdad de condiciones. Además, los estafadores siempre podrán dirigirse a algunas revistas con poca financiación con sus artículos falsos. Las revistas deberían actuar colectivamente para encontrar una forma de rastrear las fábricas de papel y verificar la identidad de todos sus autores.

Más allá de la ciencia: las noticias falsas son cada vez más falsas

Si cree que el contenido falso es un problema limitado a la ciencia, se equivoca. Hace apenas unos años, durante el apogeo de la era Trump, “fake news” era la consigna de la temporada. Los métodos de generación de contenidos para influir en la opinión pública se han vuelto cada vez más sofisticados desde entonces, y son sorprendentemente similares a los de los falsos artículos científicos.

Por ejemplo, los falsos periodistas fueron los aparentes autores de artículos de opinión en varios periódicos conservadores. Sus fotos de cabecera fueron generadas con algoritmos de Inteligencia artificial y falsa ciencia y atambien con intender cómo la atención al cliente con IA transformará las industrias. Sus cuentas de LinkedIn y Twitter son completamente falsas y aún no está claro quién está realmente detrás de estos artículos.

También hay varios generadores de artículos falsos que facilitan la creación de titulares falsos. Incluso si no puedes convencer a un verificador de hechos experimentado con este contenido, podrías impresionar al usuario medio de Facebook lo suficiente como para convencerle de que comparta el artículo.

Por eso yo mismo tiendo a confiar sólo en las noticias y la ciencia de fuentes establecidas, o en contenidos que puedo cotejar lo suficiente como para determinar que son verdaderos. Ignoro completamente otras fuentes porque sé que la mayoría de ellas van desde “ligeramente erróneas” hasta “totalmente inventadas”.

Hace unos años no tenía esta actitud. Tampoco lo hizo la gente que me rodeaba.

La confianza en las noticias se ha deteriorado drásticamente y no tengo idea de cómo podemos restaurarla. Ahora bien, a la ciencia le está sucediendo lo que ya le ha ocurrido a las noticias. Ya es bastante malo que sea difícil averiguar la verdad de lo que ocurre en el mundo. Pero si los fundamentos mismos del conocimiento humano se erosionaran, sería un desastre aún mayor.

Inteligencia artificial y falsa ciencia: Conclusion

Aunque el debate sobre las noticias falsas ha muerto tras las elecciones de 2020, no ha terminado en absoluto. Como las herramientas para falsificar contenidos siguen siendo cada vez más sofisticadas, creo que la conversación será aún más acalorada en los próximos años. Esperemos que para entonces hayamos alcanzado un consenso sobre cómo combatir los contenidos falsos. – Y también la investigación falsa.

Por Juan Carlos

Desarrollador informático autónomo y redactor web de SEO, Juan Carlos produce regularmente contenidos para el blog y el foro www.scottishconstitution.com. La calidad de su trabajo y la singularidad de su trayectoria nos han llevado a querer presentárselo.