محمد حق‌دادی، معاون فناوری اطلاعات بانک قرض‌الحسنه مهر ایران / صنعت بانکی ایران، مانند بسیاری از صنایع دیگر، وارد دوره‌ای شده که در آن هوش مصنوعی دیگر صرفاً موضوعی فناورانه یا پروژه‌ای برای آینده نیست. امروز این فناوری می‌تواند در تصمیم‌گیری‌های اعتباری، تشخیص تقلب، پاسخ‌گویی به مشتریان، مدیریت ریسک، تحلیل رفتار کاربران و طراحی محصولات جدید نقش داشته باشد. بااین‌حال، مسئله اصلی این نیست که بانک‌ها چه زمانی از هوش مصنوعی استفاده خواهند کرد؛ پرسش مهم‌تر این است که آیا معماری، داده، دانش و سازوکارهای مسئولیت‌پذیری لازم را برای استفاده از آن فراهم کرده‌اند یا نه.

در ماه‌های اخیر، هوش مصنوعی به یکی از پرتکرارترین واژه‌ها در جلسات مدیریتی، نقشه‌های راه تحول دیجیتال و معرفی محصولات تبدیل شده است. این توجه در ذات خود ارزشمند است، اما مخاطره از جایی آغاز می‌شود که استفاده از هوش مصنوعی به یک مد سازمانی یا واکنشی شتاب‌زده به فضای رقابتی تقلیل یابد. در چنین شرایطی، ممکن است سازمان پیش از آنکه مسئله واقعی خود را بشناسد، در جست‌وجوی راه‌حلی هوشمند باشد؛ پیش از آنکه داده‌هایش را سامان دهد، مدل بسازد؛ و پیش از آنکه معماری فناوری و امنیت خود را آماده کند، تجربه‌ای تازه را به مشتری وعده دهد.

هوش مصنوعی قابلیتی مستقل و جدا از سازمان نیست که بتوان آن را به‌سادگی به فرایندهای موجود افزود. موفقیت در به‌کارگیری آن به کیفیت داده، یکپارچگی سامانه‌ها، معماری فناوری، توان پردازشی، امنیت، مهارت نیروی انسانی و مدل حکمرانی وابسته است. بانکی که داده‌های پراکنده، تعاریف ناسازگار، فرایندهای غیرشفاف و سامانه‌های جزیره‌ای دارد، حتی با استفاده از بهترین ابزارهای هوش مصنوعی نیز به خروجی قابل‌اعتمادی دست نخواهد یافت. در واقع، هوش مصنوعی اغلب ضعف‌های پنهان داده‌ها و فرایندها را آشکارتر می‌کند، نه اینکه به‌تنهایی آنها را برطرف سازد.

شتاب‌زدگی در این حوزه، هزینه‌های پنهان فراوانی به همراه دارد. ممکن است یک دستیار گفت‌وگومحور اطلاعات نادرست یا ناقصی ارائه دهد، یک مدل اعتبارسنجی به‌دلیل نامتوازن بودن داده‌ها تصمیمی ناعادلانه بگیرد یا ابزاری بیرونی، بدون در نظر گرفتن ملاحظات کافی، به داده‌های حساس مشتریان دسترسی پیدا کند. مسئله فقط بروز یک خطای فنی نیست؛ هر یک از این موارد می‌تواند اعتماد مشتری به بانک را تحت تأثیر قرار دهد. در صنعت مالی، بازسازی اعتماد بسیار دشوارتر و پرهزینه‌تر از طراحی یک محصول یا مدل جدید است.

اعتماد، مهم‌ترین دارایی یک بانک است. مشتری صرفاً اطلاعات عمومی خود را در اختیار یک کسب‌وکار قرار نمی‌دهد؛ او داده‌های هویتی، مالی و رفتاری خود را به نهادی به امانت می‌سپارد. بنابراین، هر تصمیم مبتنی بر هوش مصنوعی باید بتواند به چند پرسش روشن پاسخ دهد:

• داده‌های مشتری چگونه و با چه هدفی استفاده شده‌اند؟
• چه کسی مسئول تصمیم نهایی است؟
• آیا امکان اعتراض و بازبینی تصمیم وجود دارد؟
• چگونه از تبعیض، سوگیری و خطاهای الگوریتمی پیشگیری می‌شود؟

برای نمونه، مدل‌های هوش مصنوعی در اعتبارسنجی می‌توانند دقت تصمیم‌گیری را افزایش دهند و دسترسی گروه‌های بیشتری از جامعه به خدمات مالی را امکان‌پذیر کنند. این ظرفیت در بانکداری قرض‌الحسنه اهمیت ویژه‌ای دارد؛ زیرا هدف فقط سنجش توان بازپرداخت نیست، بلکه توسعه دسترسی عادلانه و مسئولانه به منابع مالی نیز اهمیت دارد. بااین‌حال، اگر مدل بر داده‌های ناقص، سوگیرانه یا غیرقابل‌توضیح تکیه کند، ممکن است ناخواسته برخی گروه‌ها را از دریافت خدمات محروم سازد. سرعت تصمیم‌گیری نباید جای عدالت، شفافیت و امکان داوری انسانی را بگیرد.

از سوی دیگر، گسترش ابزارهای هوش مصنوعی مولد، مخاطرات سایبری تازه‌ای نیز ایجاد کرده است. جعل صدا و تصویر، تولید پیام‌های فیشینگ متقاعدکننده‌تر، مهندسی اجتماعی هدفمند و استخراج اطلاعات از طریق تعامل با سامانه‌های هوشمند، نمونه‌هایی از این تهدیدها هستند. مقابله با این مخاطرات تنها با خرید یک محصول امنیتی امکان‌پذیر نیست. بانک‌ها باید به‌طور هم‌زمان معماری امنیتی، آموزش کارکنان، آگاهی‌بخشی به مشتریان، پایش مستمر مدل‌ها و سازوکارهای واکنش به رخداد را تقویت کنند.

در این مسیر، حاکمیت داده و حاکمیت هوش مصنوعی نقشی تعیین‌کننده دارند. پیش از انتخاب مدل یا ابزار، باید مالکیت داده، کیفیت، سطح دسترسی، محرمانگی، نگهداشت و اشتراک‌گذاری آن مشخص شود. همچنین ضروری است که سازمان بداند کدام کاربردها نیازمند نظارت انسانی‌اند، کدام داده‌ها نباید وارد مدل‌های عمومی شوند و چه شاخص‌هایی باید عملکرد، دقت و انصاف مدل‌ها را پایش کنند. تحول هوشمند از خرید فناوری آغاز نمی‌شود؛ از شناخت مسئله، مدیریت داده و طراحی معماری قابل‌اتکا آغاز می‌شود.

نقش رگولاتور نیز در این میان اهمیت زیادی دارد. صنعت به چهارچوب‌هایی نیاز دارد که اصول حفظ حریم خصوصی، توضیح‌پذیری تصمیم‌ها، امنیت مدل‌ها، مدیریت ریسک اشخاص ثالث و پاسخ‌گویی در برابر خطا را روشن کنند. این چهارچوب‌ها نباید نوآوری را متوقف سازند، اما باید مانع از آن شوند که حقوق مشتریان، امنیت داده‌ها و ثبات نظام مالی قربانی هیجان فناوری شوند.

هوش مصنوعی قرار نیست جایگزین کامل انسان در بانکداری باشد؛ ارزش واقعی آن در افزایش توان تصمیم‌گیری انسان است. تصمیم‌های حساس، به‌ویژه در حوزه اعتبار، رسیدگی به شکایت، مسدودی حساب یا تشخیص موارد مشکوک، همچنان به نظارت انسانی و امکان بازبینی نیاز دارند. فناوری زمانی ارزشمند است که کرامت مشتری، حق انتخاب و حق اعتراض او را حفظ کند.

امروز فرصت مهمی پیش روی صنعت بانکی کشور قرار دارد. اگر هوش مصنوعی را صرفاً نشانه‌ای از به‌روز بودن یا ابزاری برای کاهش هزینه‌ها ببینیم، در دام تب فناوری گرفتار خواهیم شد. اما اگر آن را بر پایه معماری درست، داده‌های باکیفیت، امنیت، دانش سازمانی و مسئولیت‌پذیری به کار بگیریم، می‌توانیم از این فناوری برای افزایش دسترسی، بهبود تجربه مشتری، تقویت امنیت و توسعه بانکداری فراگیر بهره ببریم. در بانکداری، هر فناوری بدون اعتماد، در نهایت به یک هزینه تبدیل خواهد شد.