فصلنامه علمی پژوهش و توسعه مدیریت

فصلنامه علمی پژوهش و توسعه مدیریت

بررسی تأثیر بار شناختیِ توضیحات هوش مصنوعی توضیح‌پذیر (XAI)بر اعتماد کاربران

نوع مقاله : مروری

نویسندگان
1 دانشجوی دکتری دانشکده مدیریت دانشگاه آزاد واحد نجف آباد
2 گروه مدیریت، واحد دولت آباد، دانشگاه آزاد اسلامی، اصفهان، ایران.
چکیده
چکیده

با گسترش کاربرد سامانه‌های هوش مصنوعی در فرایندهای تصمیم‌گیری، ایجاد اعتماد متناسب و آگاهانه کاربران به یکی از چالش‌های اساسی این فناوری تبدیل شده است. در این میان، هوش مصنوعی توضیح‌پذیر (XAI) با هدف افزایش شفافیت و قابلیت درک تصمیم‌های سامانه‌های هوشمند توسعه یافته است، اما شواهد پژوهشی نشان می‌دهد که ارائه توضیحات بیشتر، همواره به افزایش اعتماد کاربران منجر نمی‌شود و در صورت افزایش بار شناختی، ممکن است اثر معکوس داشته باشد. پژوهش حاضر با هدف تبیین تأثیر ویژگی‌های هوش مصنوعی توضیح‌پذیر بر اعتماد کالیبره‌شده با نقش بار شناختی انجام شده است. این پژوهش از نظر روش، یک مطالعه مرور نظام‌مند ادبیات (SLR) است که بر اساس رهنمودهای PRISMA 2020 انجام شد. پس از جستجو در پایگاه‌های معتبر داخلی و بین‌المللی و اعمال معیارهای ورود و خروج، ۳۳ مقاله منتخب شامل ۲۶ مقاله انگلیسی و ۷ مقاله فارسی مورد تحلیل و سنتز قرار گرفت. یافته‌ها نشان داد که ویژگی‌های XAI از جمله شفافیت، قابلیت تفسیر، کیفیت و تناسب توضیحات، از طریق بهبود کیفیت ادراک‌شده توضیحات، شکل‌گیری مدل ذهنی مناسب و مدیریت بار شناختی، زمینه ایجاد اعتماد کالیبره‌شده را فراهم می‌کنند. همچنین نتایج نشان داد که عوامل فردی و زمینه‌ای مانند سواد هوش مصنوعی، تجربه، تخصص و پیچیدگی وظیفه، بر شدت این روابط تأثیرگذار هستند. در نهایت، با تلفیق ادبیات هوش مصنوعی توضیح‌پذیر، نظریه بار شناختی و نظریه اعتماد به اتوماسیون، یک مدل مفهومی یکپارچه ارائه شد که می‌تواند مبنایی برای پژوهش‌های تجربی آینده و طراحی سامانه‌های هوشمند انسان‌محور در حوزه مدیریت فناوری اطلاعات و کسب‌وکارهای هوشمند باشد.
کلیدواژه‌ها
موضوعات

عنوان مقاله English

Modeling the Impact of Explainable AI Features on Calibrated Trust in Smart Businesses: The Mediating Role of Cognitive Load and Moderating Effects of Individual and Contextual Factors

نویسندگان English

marzah sattari 1
Seid Mohammad Reza Mirahmadi 2
1 Ph.D. Student, Faculty of Management, Najaf abad Branch, Islamic Azad University
2 Department of Management, Dol.C., Islamic Azad University, Isfahan, Iran.
چکیده English

Abstract

The rapid adoption of Artificial Intelligence (AI) in organizational decision-making has increased the need for transparent and trustworthy intelligent systems. Explainable Artificial Intelligence (XAI) has emerged as an effective approach to improving users' understanding of AI decision-making processes. However, recent studies suggest that providing more explanations does not necessarily enhance trust; rather, the effectiveness of explanations depends on their ability to support users' cognitive processing. This study aims to develop a conceptual framework explaining how XAI features influence calibrated trust through the mediating role of cognitive load. A systematic literature review (SLR) was conducted following the PRISMA 2020 guidelines. Relevant studies were retrieved from major international and Persian scientific databases, and after applying predefined inclusion and exclusion criteria, 33 studies (26 international and 7 Persian) were selected for thematic synthesis. The findings indicate that XAI features—including transparency, interpretability, completeness, simplicity, relevance, and explanation quality—improve users' perceived explanation quality and mental model formation. These mechanisms reduce extraneous cognitive load, facilitate meaningful cognitive processing, and promote calibrated trust rather than overtrust or distrust. Furthermore, the relationships among these constructs are moderated by individual and contextual factors such as AI literacy, user expertise, prior experience, task complexity, and explanation type. Based on the synthesized evidence, this study proposes an integrated conceptual model linking XAI features, cognitive load, and calibrated trust. The proposed framework contributes to the theoretical integration of explainable AI, cognitive load theory, and trust in automation while offering practical implications for designing human-centered AI systems in information technology management and intelligent business environments.

کلیدواژه‌ها English

Keywords: Explainable Artificial Intelligence (XAI)
Calibrated Trust
Cognitive Load
Human–AI Interaction
Information Technology Management

مقالات آماده انتشار، پذیرفته شده
انتشار آنلاین از 07 شهریور 1405

  • تاریخ دریافت 26 مرداد 1405
  • تاریخ پذیرش 07 شهریور 1405