New study says AI is making humans less able to think critically

A new study published in the Swiss-based international academic journal Societies has explored how humans' increasing reliance on AI tools may be impairing their critical thinking skills, particularly through the phenomenon of "cognitive transfer."

This research highlights profound implications for professionals in high-risk fields, such as law and forensic science, where over-reliance on technology can lead to mistakes with serious consequences.

Cognitive Offloading refers to relying on technology like AI to store, process, or perform cognitive functions that humans previously performed on their own, such as remembering, analyzing, or making decisions. This can lead to a reduction in the role of individual intelligence in those activities.

The use of AI by lawyers and expert witnesses in legal contexts is becoming a popular trend, but it also poses many risks when AI tools are applied without proper oversight or verification.

This new research further illuminates those risks, highlighting how the convenience AI brings can gradually degrade the quality of human decision-making and critical analytical abilities.

The findings of the study on the phenomenon of "transition""cognitive load" and the impact of AI

The study surveyed 666 participants from a diverse demographic to assess the impact of AI tools on critical thinking skills. Key findings from the study include:

Cognitive transfer:People who regularly use AI tend to transfer intellectual tasks to technology, relying on AI to solve problems and make decisions, rather than actively practicing independent critical thinking.

Skill Decline:Over time, people who rely heavily on AI tools gradually lose the ability to critically evaluate information and draw thoughtful conclusions, reflecting a decline in critical thinking.

Generation gap:Younger people tend to rely more heavily on AI tools than older groups, raising concerns about the long-term implications for the expertise and judgment of future professionals.

Các nhà nghiên cứu cảnh báo rằng, mặc dù AI có thể tối ưu hóa quy trình làm việc và tăng cường năng suất, nhưng việc phụ thuộc quá mức vào công nghệ này có thể dẫn đến sự hình thành "khoảng cách kiến thức", khiến người dùng mất khả năng xác minh hoặc phản biện các kết quả do AI đưa ra.

Khi các chuyên gia tin tưởng một cách mù quáng vào kết quả do AI đưa ra mà không kiểm chứng độ chính xác của chúng, họ có thể vô tình tạo ra những sai sót nghiêm trọng, làm suy yếu các vụ án, làm tổn hại danh tiếng và làm xói mòn niềm tin vào chuyên môn của mình.

Bất kỳ ngành nghề nào yêu cầu phán đoán và kiến thức chuyên sâu đều có thể trở thành nạn nhân của "chuyển tải nhận thức", như một nghiên cứu gần đây đã chỉ ra.

Nếu thiếu sự giám sát kỹ lưỡng từ con người, các công cụ AI không chỉ có thể cải thiện quy trình làm việc mà còn có thể làm suy yếu các tiêu chuẩn xuất sắc mà các chuyên gia vốn được kỳ vọng duy trì.

Những lĩnh vực như pháp lý, bảo hiểm và khoa học pháp y vốn phụ thuộc vào chuyên môn con người, đang phải đối mặt với cả lợi ích tiềm năng lẫn những thách thức chưa lường trước được từ AI.

Tìm kiếm có sự tương đồng trong cách AI được áp dụng trong các lĩnh vực pháp lý và khoa học pháp y

Mặc dù AI có thể hỗ trợ đắc lực trong việc phân tích dữ liệu hoặc chuẩn bị vụ án, nhưng mối lo ngại ngày càng tăng là các chuyên gia và luật sư có thể trở nên quá phụ thuộc vào những công cụ này mà không kiểm tra kỹ lưỡng độ chính xác của chúng.

Khi các chuyên gia trong lĩnh vực pháp lý hoặc khoa học pháp y đặt quá nhiều niềm tin vào AI, họ sẽ phải đối mặt với những rủi ro tiềm ẩn không thể tránh khỏi.

Unverified data:AI tools can produce results that appear reasonable but are inaccurate, as has been demonstrated in cases where false evidence or faulty calculations were introduced into legal proceedings.

Professional decline:Over time, routinely delegating complex tasks to AI could gradually undermine the important skills needed to critically and critically evaluate or challenge evidence.

Reduced accountability:Blind trust in AI leads to a lack of personal responsibility, creating a dangerous precedent where errors are easily overlooked or dismissed.

AI and human expertise: A balance is needed

The key takeaway from both studies is that AI should be viewed as a tool that enhances human capabilities, rather than replacing them entirely. To maintain this balance, the studies suggest that:

Expertisehuman is the foundation:Human knowledge and expertise must always be the basis for decision-making. AI-generated results need to be verified by qualified experts and placed in the appropriate context.

Critical thinking is an indispensable element:Users need to actively engage in analyzing and criticizing AI-generated data, asking questions about the validity of the data and exploring alternative interpretations.

Regulation and specialized training are required:As AI becomes more prevalent, industries need to set strict standards for adopting this technology and ensure that professionals are well-trained and understand both the potential and limitations of AI.

Whether in everyday tasks or in high-risk fields such as law and forensic science, the human element remains pivotal to ensuring accuracy, accountability, and ethical integrity.

Without proper oversight and significant human involvement, we could undermine the professional standards and trust that professionals are expected to uphold.