Alman bilim insanları, birçok kişinin güvenerek sağlık tavsiyeleri aldığı yapay zeka tabanlı arama motorlarının potansiyel olarak zararlı ilaçlar önerebileceği konusunda uyarıda bulundu. Dünya genelinde birçok insan, semptomlarını yapay zeka aracılığıyla araştırarak, bilimsel destekten yoksun teşhisler alabilmektedir. Ancak Alman araştırmacılar, yapay zekanın daima doğru yönlendirmelerde bulunmadığı konusunda uyardı. Erlangen-Nürnberg Üniversitesi tarafından gerçekleştirilen bir araştırmaya göre, yapay zeka destekli sohbet robotları, reçeteli ilaçlar hakkında verilen bilgilerin beşte birinden fazlasının, ölümcül ya da ciddi yaralanmalara yol açabileceği belirtildi. Uzmanlar, hastaların bu tür arama motorlarına güvenmemesi gerektiğini vurguladı. ABD’de en sık reçete edilen 50 ilaca ilişkin 10 sorunun incelendiği bir araştırmada, yapay zekanın verdiği 500 yanıt, eczacılar ve farmakoloji uzmanlarının verileriyle karşılaştırıldı. Chatbot yanıtlarının en az yüzde 26’sının bilimsel verilere uymadığı ve tutarsız ifadeler içerdiği ortaya çıktı. Detaylı analizler sonucunda, yapay zekanın verdiği tıbbi bilgilerin yüzde 42’sinin orta düzeyde zarara, yüzde 22’sinin ise ölümcül sonuçlara neden olabileceği belirlendi. BMJ Quality and Safety dergisinde yayınlanan araştırmada, yapay zekanın hasta güvenliğini büyük ölçüde tehdit ettiği sonucuna varıldı. Uzmanlar, bireylerin olası semptomlarını kesinlikle sağlık uzmanlarıyla paylaşmalarının önemini vurguladı.