{"id":388,"date":"2023-03-18T20:42:27","date_gmt":"2023-03-18T23:42:27","guid":{"rendered":"https:\/\/demo.creativethemes.com\/elementor\/product-reviews\/?p=388"},"modified":"2025-05-20T06:00:42","modified_gmt":"2025-05-20T09:00:42","slug":"os-perigos-do-chat-gpt-e-outras-ia-para-a-pesquisa-na-saude","status":"publish","type":"post","link":"https:\/\/enfermagempesquisadora.com.br\/en\/os-perigos-do-chat-gpt-e-outras-ia-para-a-pesquisa-na-saude\/","title":{"rendered":"The dangers of ChatGPT (and other AIs) for healthcare research"},"content":{"rendered":"\n[et_pb_section fb_built=”1″ _builder_version=”4.20.2″ custom_margin=”-43px||||false|false” global_colors_info=”{}”][et_pb_row _builder_version=”4.20.2″ background_enable_image=”off” background_size=”initial” background_position=”top_left” background_repeat=”repeat” custom_margin=”-15px||0px||false|false” custom_padding=”5px|6px|13px|6px|false|false” border_width_all=”2px” border_color_all=”rgba(81,81,81,0.16)” border_style_all=”dashed” global_colors_info=”{}”][et_pb_column type=”4_4″ _builder_version=”4.16″ custom_padding=”|||” global_colors_info=”{}” custom_padding__hover=”|||”][et_pb_text _builder_version=”4.27.4″ _module_preset=”default” global_colors_info=”{}”]

Ou\u00e7a a audiodescri\u00e7\u00e3o:<\/strong><\/p>\n[\/et_pb_text][et_pb_code _builder_version=”4.20.2″ _module_preset=”default” global_colors_info=”{}”]\n

N\u00e3o h\u00e1 d\u00favidas que as Intelig\u00eancias Artificiais (IA) estar\u00e3o cada vez mais presentes no cotidiano da humanidade. Tendo por intuito emular a capacidade cognitiva de um ser humano, as IA facilmente nos superam, sendo aptas a realizar tarefas que demandam dias, semanas ou at\u00e9 meses para um ser humano, em apenas segundos.<\/span><\/span><\/p>\n

Para al\u00e9m da automatiza\u00e7\u00e3o de tarefas, sua capacidade de aprender constantemente as permite evoluir e abranger novas linhas de produ\u00e7\u00e3o, como podemos ver desde as IA de imagens \u2013 produzindo ilustra\u00e7\u00f5es extremamente realistas \u2013, \u00e0s IA voltadas \u00e0 comunica\u00e7\u00e3o, como o ChatGPT. <\/span><\/p>\n

S\u00e3o diversos os benef\u00edcios que uma IA pode trazer para a humanidade, no entanto, seu uso indiscriminado pode gerar consequ\u00eancias catastr\u00f3ficas. Sendo assim, neste texto irei abordar os perigos associados ao uso da IA nas pesquisas cient\u00edficas, principalmente na \u00e1rea da sa\u00fade.<\/span><\/p>\n

Aspirando entender mais sobre o avan\u00e7o tecnol\u00f3gico acabei me deparando com o universo das IA de chat. Meu primeiro contato foi por meio de um colega de trabalho que me alertou para o perigo que tais plataformas poderiam apresentar para o futuro das pesquisas cient\u00edficas, sobretudo no que tange o pl\u00e1gio liter\u00e1rio, j\u00e1 que muitos alunos passaram a utiliz\u00e1-las para constru\u00e7\u00e3o de seus trabalhos acad\u00eamicos (YANG, 2023). <\/span><\/p>\n

Sua preocupa\u00e7\u00e3o partia do princ\u00edpio que os textos produzidos pela IA s\u00e3o baseados em uma gama de informa\u00e7\u00f5es disponibilizadas na internet, por\u00e9m sem a devida referencia\u00e7\u00e3o dos dados que foram utilizados, de forma que se tornava imposs\u00edvel saber a fonte de origem e se o texto foi plagiado de algum outro autor. Nesse contexto, o mesmo se perguntou: \u201cpoderiam os programas de pl\u00e1gio atuais identificar estas \u2018colchas de retalhos\u2019?\u201d. Entretanto, a<\/span>pesar da preocupa\u00e7\u00e3o, inicialmente n\u00e3o acreditei que havia uma tecnologia capaz de criar textos com tal grau de compet\u00eancia. O que para minha surpresa era mais do que poss\u00edvel. <\/span><\/p>\n

Passei, ent\u00e3o, a querer entender mais sobre as IA de chat, tendo me surpreendido com a capacidade de escrita das mesmas. Estas podiam emular t\u00e3o perfeitamente a escrita cient\u00edfica, que nem ao menos voc\u00ea seria capaz de diferenciar se este texto foi escrito por um humano ou por uma m\u00e1quina. Assim, vislumbrada, comecei a minha jornada explorando o ChatGPT, que em pouco tempo descobri ser fonte de potencialidades, mas tamb\u00e9m de s\u00e9rios perigos. <\/span><\/p>\n

Desde o in\u00edcio eu me questionava qual era a origem de toda aquela informa\u00e7\u00e3o. Quando pedia, por curiosidade, que criasse um exemplo de artigo e indagava as fontes utilizadas, a resposta era sempre a mesma: \u201cComo um modelo de linguagem, eu n\u00e3o tenho acesso \u00e0 lista espec\u00edfica de fontes\u201d. Esta quest\u00e3o j\u00e1 me acendia um alerta para aquilo que meu colega de trabalho havia comentado, por\u00e9m o que era apenas uma \u201cpulguinha atr\u00e1s da orelha\u201d se tornou um verdadeiro \u201celefante no meio da sala\u201d.<\/span><\/p>\n

Testando as possibilidades de aux\u00edlio durante a pesquisa, pedi ao chatbot que me atualizasse sobre os dados referentes \u00e0 participa\u00e7\u00e3o de estudantes de enfermagem em projetos e grupos de pesquisa. Em resposta, ele me descreveu todas as pesquisas que eu poderia utilizar para captar estas informa\u00e7\u00f5es: \u201cPesquisa Nacional de Perfil dos Graduandos em Enfermagem (2018)\u201d, \u201cCenso da Educa\u00e7\u00e3o Superior (INEP)\u201d e \u201cCadastro Nacional de Grupos de Pesquisa (CNPq)\u201d, aparentemente nada para se desconfiar.<\/span><\/p>\n

Em complemento, eu pedi que especificasse os dados sobre tal informa\u00e7\u00e3o. Foi quando me deparei com o seguinte trecho em resposta:<\/span><\/p>\n

<\/span><\/p>\n

<\/span><\/p>\n

\"\"<\/p>\n

<\/span><\/p>\n

<\/span><\/p>\n

Logo pensei: \u201cExcelente! Era o dado que eu realmente precisava para a minha pesquisa e n\u00e3o encontrava em lugar nenhum\u201d. Obviamente fiz o correto enquanto pesquisadora, busquei estes dados no Google para poder pegar as pesquisas originais e l\u00ea-las. No entanto, n\u00e3o haviam resultados. Desta forma, passei a pedir mais informa\u00e7\u00f5es para o chatbot, solicitando desde o t\u00edtulo exato da pesquisa, at\u00e9 o link de acesso, ambos sem resultados positivos.<\/span><\/span><\/p>\n

Foi nesse momento que me deparei com algo extremamente perigoso: todos os links que o chatbot me enviava, ou estavam quebrados, ou me encaminhavam para outro artigo\/p\u00e1gina sem nenhuma correla\u00e7\u00e3o com a \u201ctal pesquisa\u201d e at\u00e9 mesmo os t\u00edtulos dos artigos, quando pesquisados no Google, n\u00e3o geravam nenhum resultado. Desta forma, resolvi question\u00e1-lo diretamente se este estava inventando os dados apresentados e sua resposta foi: <\/span><\/p>\n

<\/span><\/p>\n

\"\"<\/span><\/p>\n

<\/span><\/p>\n

Como eu sabia que a pesquisa \u201cPerfil da Enfermagem no Brasil\u201d realmente existia, comecei um processo de \u201cengenharia reversa\u201d para buscar a informa\u00e7\u00e3o que o chatbot havia me apresentado. Todavia, a \u00fanica pesquisa dispon\u00edvel no site do Conselho Federal de Enfermagem – COFEN (<\/span>http:\/\/www.cofen.gov.br\/perfilenfermagem\/index.html<\/span><\/a><\/strong>) n\u00e3o data o ano de 2018 e n\u00e3o apresenta dados sobre a participa\u00e7\u00e3o de estudantes de enfermagem em projetos de pesquisa durante a gradua\u00e7\u00e3o. De forma igualit\u00e1ria, n\u00e3o havia nenhum estudo que citasse tal documento. <\/span><\/p>\n

<\/span><\/p>\n

<\/span><\/p>\n

\"\"<\/span><\/p>\n

<\/span><\/p>\n

<\/span><\/p>\n

Considerando o detalhamento da resposta voc\u00ea poderia at\u00e9 se questionar que esta pesquisa provavelmente j\u00e1 existiu, por\u00e9m foi removida da internet. Assim, tomei a liberdade de entrar em contato com os pesquisadores respons\u00e1veis pelo estudo, indagando a informa\u00e7\u00e3o apresentada. Por e-mail, o<\/span>s mesmos me passaram todas as publica\u00e7\u00f5es derivadas da pesquisa original, bem como o relat\u00f3rio final e os bancos de dados dispon\u00edveis no site do COFEN. Ap\u00f3s muita leitura, n\u00e3o foi identificada a informa\u00e7\u00e3o gerada pela IA em nenhum dos materiais, apontando para uma alta possibilidade de<\/span>sses dados terem sido fabricados pelo chatbot.<\/span><\/p>\n

Cabe destacar, que quando solicitadas listas de refer\u00eancias, todas, sem exce\u00e7\u00e3o, eram pesquisas inventadas. Observou-se que o chatbot credita autores reais, especialistas na \u00e1rea espec\u00edfica pesquisada, por\u00e9m em estudos que nunca foram realizados pelos mesmos. Em outros casos, os t\u00edtulos foram inventados ou misturados, isto \u00e9, o t\u00edtulo de duas ou mais pesquisas gerando um novo. Contudo, ao primeiro olhar as refer\u00eancias parecem reais, j\u00e1 que, devido ao seu aprendizado, o chatbot toma o cuidado de p\u00f4r a refer\u00eancia nas normas, apresentando o nome de uma revista, o volume, as p\u00e1ginas e, at\u00e9 mesmo, um <\/span>Digital Object Identifier<\/span><\/i> (DOI), que, inevitavelmente, era falso ou de outra pesquisa.<\/span><\/p>\n

<\/span><\/p>\n

<\/span><\/p>\n

\"\"<\/span><\/p>\n

<\/span><\/p>\n

<\/span><\/p>\n

Apesar de poder parecer um caso isolado, recentemente, em uma not\u00edcia publicada na revista Nature, sobre o uso do ChatGPT, o autor Brian Owens alertou para preocupa\u00e7\u00f5es sobre a confiabilidade das ferramentas de chatbot, apontando diversos discursos sobre o fato destas estarem criando listas de literaturas completamente fict\u00edcias (OWENS, 2023). Esta not\u00edcia refor\u00e7a outra anteriormente apresentada no portal da revista, cujo intuito foi criticar o uso do ChatGPT como coautor de trabalhos cient\u00edficos, explicando os problemas estruturais e \u00e9ticos envolvidos (STOKEL-WALKER, 2023).<\/span><\/p>\n

Como ainda \u00e9 poss\u00edvel observar diversas pesquisas que foram despublicadas por m\u00e1 conduta e que continuam sendo citadas at\u00e9 os dias atuais (OLIVEIRA, 2015), tais fragilidades apontam para um futuro perigoso na \u00e1rea da sa\u00fade, j\u00e1 que denotam a exist\u00eancia de pesquisas com informa\u00e7\u00f5es fict\u00edcias, cujo impacto pode ser imensur\u00e1vel e suas retrata\u00e7\u00f5es podem nem ao menos alcan\u00e7ar o grande p\u00fablico.<\/p>\n

Nesse \u00e2mbito, como os dados cient\u00edficos s\u00e3o a base para os tratamentos e planejamento das pol\u00edticas p\u00fablicas de sa\u00fade, seu uso indiscriminado e mal intencionado pode causar danos permanentes, reverberando na confiabilidade da atua\u00e7\u00e3o profissional e na luta de classes, bem como no processo de configura\u00e7\u00e3o da identidade destes profissionais, que por hora optaram por substituir seu papel de pesquisador pela pronta-resposta da IA.<\/p>\n

<\/span>Contudo, cabe ressaltar que estes problemas, apesar de graves, s\u00e3o comuns em uma IA que ainda se encontra em processo de aprendizagem. O ChatGPT, por exemplo, foi lan\u00e7ado em novembro de 2022, de forma que sua IA ainda est\u00e1 aprendendo, podendo esta ser capaz de corrigir todos seus problemas atuais em um futuro muito pr\u00f3ximo. Sendo assim, apesar das fragilidades apresentadas, seu uso constante pode ajudar a transform\u00e1-la em uma potencial ferramenta para o of\u00edcio do docente e do pesquisador. <\/span><\/p>\n

<\/span>Em conclus\u00e3o, aos alunos recomenda-se que aguardem para se aventurarem pelo universo das IA de chat, j\u00e1 que se faz necess\u00e1rio ter a compet\u00eancia formativa para separar a informa\u00e7\u00e3o falsa da verdadeira. Aos professores e pesquisadores sugere-se cautela, de forma que busquem exercer suas fun\u00e7\u00f5es com maestria, sempre questionando-se dos dados ali apresentados. Entende-se, ainda, que as IA de chat, como o ChatGPT, ainda ir\u00e3o exercer um papel fundamental na pesquisa cient\u00edfica, tornando-se, em um futuro n\u00e3o t\u00e3o distante, ferramentas do cotidiano do pesquisador e, consequentemente, potentes aliadas para consolida\u00e7\u00e3o do trip\u00e9 ensino-pesquisa-extens\u00e3o.<\/span><\/p>\n

<\/span><\/p>\n

<\/span><\/p>\n

Refer\u00eancias<\/strong><\/h5>\n

 <\/p>\n

OLIVEIRA, M.B. A epidemia de m\u00e1s condutas na ci\u00eancia: o fracasso do tratamento moralizador. Scientiae Studia, S\u00e3o Paulo, v. 13, n. 4, p. 867-897, 2015. DOI: 10.1590\/S1678-31662015000400007. Dispon\u00edvel em: https:\/\/www.scielo.br\/j\/ss\/a\/hMs7Y4FVZvbjwHkmYKTn3Ny\/?lang=pt#<\/a><\/span>. Acesso em: 11 mar. 2023. <\/span><\/p>\n

OWENS, B. How Nature readers are using ChatGPT. Nature, London, v. 615, p. 20, 20 fev. 2023. DOI: 10.1038\/d41586-023-00500-8. Dispon\u00edvel em: https:\/\/www.nature.com\/articles\/d41586-023-00500-8<\/a>.<\/span> Acesso em: 11 mar. 2023. <\/span><\/p>\n

STOKEL-WALKER, C. ChatGPT listed as author on research papers: many scientists disapprove. Nature, London, v. 613, p. 620-621, 18 jan. 2023. DOI: 10.1038\/d41586-023-00107-z. Dispon\u00edvel em: https:\/\/www.nature.com\/articles\/d41586-023-00107-z<\/span><\/a>. Acesso em: 11 mar. 2023.<\/span><\/p>\n

YANG, M. New York City schools ban AI chatbot that writes essays and answers prompts. The Guardian, New York, 06 jan. 2023. Dispon\u00edvel em: https:\/\/www.theguardian.com\/us-news\/2023\/jan\/06\/new-york-city-schools-ban-ai-chatbot-chatgpt<\/a><\/span>. Acesso em: 11 mar. 2023. <\/span><\/p>\n[\/et_pb_text][\/et_pb_column][\/et_pb_row][et_pb_row _builder_version=”4.20.2″ _module_preset=”default” global_colors_info=”{}”][et_pb_column type=”4_4″ _builder_version=”4.20.2″ _module_preset=”default” global_colors_info=”{}”][et_pb_text _builder_version=”4.27.4″ _module_preset=”default” background_color=”#e2e2e2″ custom_padding=”7px|7px|8px|7px|false|true” hover_enabled=”0″ border_width_all=”1px” border_color_all=”rgba(224,229,235,0.8)” global_colors_info=”{}” sticky_enabled=”0″]

Como citar<\/strong> (ABNT Style):<\/p>\n

ALMEIDA, Y. S. Os perigos do ChatGPT (e outras IAs) para a pesquisa na sa\u00fade. Enfermagem Pesquisadora<\/strong>, Rio de Janeiro, 18 mar. 2023. Disponivel em: https:\/\/enfermagempesquisadora.com.br\/os-perigos-do-chat-gpt-e-outras-ia-para-a-pesquisa-na-saude\/<\/a>.<\/span><\/p>\n

<\/span><\/p>\n

\u00a0 \u00a0\"\"<\/a>\u00a0Esta obra se encontra sob Licen\u00e7a Creative Commons Atribui\u00e7\u00e3o 4.0 Internacional.<\/span><\/p>\n[\/et_pb_text][\/et_pb_column][\/et_pb_row][\/et_pb_section]\n","protected":false},"excerpt":{"rendered":"

There's no doubt that Artificial Intelligence (AI) will be increasingly present in humanity's daily life; however, its indiscriminate use can lead to catastrophic consequences. This text aimed to address the dangers associated with the use of AI in scientific research, especially in the healthcare field.<\/p>","protected":false},"author":1,"featured_media":1464,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_et_pb_use_builder":"on","_et_pb_old_content":"\n

Lorem ipsum dolor sit amet, consectetur adipiscing elit, sed do eiusmod tempor incididunt ut labore et dolore magna aliqua. In cursus turpis massa tincidunt. Est placerat in egestas erat. Quam elementum pulvinar etiam non quam lacus. Fringilla ut morbi tincidunt augue. Purus in mollis nunc sed id semper risus in. Vestibulum sed arcu non odio euismod lacinia at. At in tellus integer feugiat scelerisque. Purus viverra accumsan in nisl nisi scelerisque eu ultrices. Duis ultricies lacus sed turpis tincidunt id aliquet risus feugiat. Felis imperdiet proin fermentum leo vel orci. Suspendisse potenti nullam ac tortor vitae. Sagittis eu volutpat odio facilisis mauris sit. Lacus sed turpis tincidunt id aliquet risus feugiat in. Ornare suspendisse sed nisi lacus. Porttitor rhoncus dolor purus non enim praesent elementum facilisis. Sit amet dictum sit amet justo donec enim diam vulputate.<\/p>\n\n\n\n

Suspendisse faucibus interdum posuere lorem ipsum dolor sit amet. Sed odio morbi quis commodo odio. Sed risus ultricies tristique nulla aliquet enim tortor at. Blandit cursus risus at ultrices mi tempus imperdiet nulla. Id faucibus nisl tincidunt eget nullam. In tellus integer feugiat scelerisque varius morbi enim. Volutpat sed cras ornare arcu. Integer feugiat scelerisque varius morbi enim nunc faucibus a pellentesque. Praesent semper feugiat nibh sed pulvinar proin gravida. Dapibus ultrices in iaculis nunc sed augue lacus viverra vitae. Elit duis tristique sollicitudin nibh sit amet commodo nulla. Integer quis auctor elit sed vulputate mi sit amet.<\/p>\n\n\n\n

Tortor consequat id porta nibh venenatis cras sed felis. Tincidunt augue interdum velit euismod in pellentesque massa placerat. Neque convallis a cras semper auctor neque vitae tempus. Amet volutpat consequat mauris nunc congue nisi vitae. Nec ullamcorper sit amet risus nullam eget felis eget nunc. Amet porttitor eget dolor morbi. Eget arcu dictum varius duis at consectetur lorem donec massa. Fermentum iaculis eu non diam. Risus nullam eget felis eget nunc lobortis mattis aliquam faucibus. Et egestas quis ipsum suspendisse ultrices gravida dictum fusce.<\/p>\n\n\n\n

Purus non enim praesent elementum facilisis leo vel fringilla. Diam sit amet nisl suscipit adipiscing. Facilisis magna etiam tempor orci. Consequat nisl vel pretium lectus quam. Sollicitudin ac orci phasellus egestas tellus rutrum tellus pellentesque eu. Sed tempus urna et pharetra. Tristique sollicitudin nibh sit amet commodo nulla facilisi nullam. Nibh tortor id aliquet lectus. Scelerisque viverra mauris in aliquam. Id aliquet risus feugiat in ante. Sit amet volutpat consequat mauris nunc congue nisi vitae suscipit. Nec tincidunt praesent semper feugiat nibh sed pulvinar proin gravida. Mauris augue neque gravida in fermentum. Diam vel quam elementum pulvinar. Convallis posuere morbi leo urna molestie at.<\/p>\n","_et_gb_content_width":"","advanced_seo_description":"","jetpack_seo_html_title":"","jetpack_seo_noindex":false,"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[27],"tags":[96,91,75,90,92,70,95,72,97,93],"class_list":["post-388","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-atualidades","tag-ai-dangers","tag-artificial-intelligence","tag-confiabilidade","tag-etica-em-pesquisa-2","tag-health-research","tag-inteligencia-artificial","tag-perigos-da-ia","tag-pesquisa-na-saude","tag-reliability","tag-research-ethics"],"blocksy_meta":{"styles_descriptor":{"styles":{"desktop":"","tablet":"","mobile":""},"google_fonts":[],"version":6}},"jetpack_featured_media_url":"https:\/\/i0.wp.com\/enfermagempesquisadora.com.br\/wp-content\/uploads\/2021\/01\/Enfermagem-Pesquisadora-AI.png?fit=800%2C450&ssl=1","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/enfermagempesquisadora.com.br\/en\/wp-json\/wp\/v2\/posts\/388","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfermagempesquisadora.com.br\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfermagempesquisadora.com.br\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfermagempesquisadora.com.br\/en\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/enfermagempesquisadora.com.br\/en\/wp-json\/wp\/v2\/comments?post=388"}],"version-history":[{"count":61,"href":"https:\/\/enfermagempesquisadora.com.br\/en\/wp-json\/wp\/v2\/posts\/388\/revisions"}],"predecessor-version":[{"id":2386,"href":"https:\/\/enfermagempesquisadora.com.br\/en\/wp-json\/wp\/v2\/posts\/388\/revisions\/2386"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfermagempesquisadora.com.br\/en\/wp-json\/wp\/v2\/media\/1464"}],"wp:attachment":[{"href":"https:\/\/enfermagempesquisadora.com.br\/en\/wp-json\/wp\/v2\/media?parent=388"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfermagempesquisadora.com.br\/en\/wp-json\/wp\/v2\/categories?post=388"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfermagempesquisadora.com.br\/en\/wp-json\/wp\/v2\/tags?post=388"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}