به گزارش صراط به نقل از فارس به نقل از دیجیتالترندز، فناوری شبیهسازی صدا به جایی رسیده که کلاهبرداران میتوانند با کمک هوش مصنوعی، صدایی نزدیک به صدای افراد واقعی تولید کنند؛ قابلیتی که در کنار افزایش تماسهای جعلی، یک ضعف مهم انسانی را هم هدف گرفته است: مغز ما همیشه نمیتواند صدای واقعی را از صدای ساختهشده تشخیص دهد. پیشرفت مدلهای هوش مصنوعی در تقلید صدا، تشخیص تماسهای جعلی را دشوارتر کرده است. کلاهبردار دیگر لزوماً به یک صدای مصنوعی رباتگونه نیاز ندارد؛ کافی است نمونهای از صدای فرد موردنظر در اختیار داشته باشد تا سامانه هوش مصنوعی بتواند لحن و ویژگیهای صوتی او را بازسازی کند.این فناوری میتواند در سناریوهایی مانند تماسهای جعلی خانوادگی یا درخواستهای مالی مورد سوءاستفاده قرار گیرد. در چنین شرایطی، فرد ممکن است صدایی آشنا را از پشت تلفن بشنود و پیش از آنکه فرصت بررسی بیشتر داشته باشد، واکنش نشان دهد.
مسئله فقط کیفیت فنی صدا نیست؛ پژوهشهای مورد اشاره در گزارش نشان میدهند که مغز انسان نیز در ارزیابی صداهای مصنوعی با چالش روبهرو میشود. انسانها معمولاً هنگام شنیدن صدای آشنا، بخشی از قضاوت خود را بر اساس همان حس آشنایی انجام میدهند و اگر صدای تولیدشده به اندازه کافی طبیعی باشد، ممکن است نشانههای مصنوعی بودن آن را نادیده بگیرند.این موضوع اهمیت بیشتری پیدا میکند، زیرا هوش مصنوعی میتواند ویژگیهایی فراتر از خودِ صدای فرد را نیز بازسازی کند. مکثها، سرعت صحبتکردن، لحن و الگوی بیان میتوانند به طبیعیتر شدن صدای شبیهسازیشده کمک کنند و فاصله میان یک صدای واقعی و نسخه تولیدشده را کاهش دهند.در گذشته، تشخیص تماس جعلی تا حدی به غیرطبیعی بودن صدای تولیدشده وابسته بود؛ اما با پیشرفت مدلهای صوتی، این معیار دیگر قابل اتکا نیست. به همین دلیل، اعتماد صرف به صدایی که از پشت تلفن شنیده میشود، میتواند خطرناک باشد.
تغییر ماهیت تهدید
هوش مصنوعی نهتنها تولید محتوای جعلی را سادهتر کرده، بلکه میتواند جعل هویت را نیز برای افراد بیشتری امکانپذیر کند. در نتیجه، حملاتی که پیشتر به دانش یا منابع فنی بیشتری نیاز داشتند، میتوانند با ابزارهای هوش مصنوعی سادهتر اجرا شوند.
اهمیت این مسئله زمانی بیشتر مشخص میشود که بدانیم صدای انسان یکی از مهمترین نشانههای هویتی در ارتباطات روزمره است. بسیاری از افراد هنگام تماس تلفنی با اعضای خانواده، دوستان یا همکاران، بدون نیاز به مشاهده چهره، هویت طرف مقابل را از روی صدا تشخیص میدهند. هوش مصنوعی اکنون همین میانبُر ذهنی را هدف گرفته است.با این حال، مسئله به معنای غیرقابل تشخیص شدن کامل صداهای مصنوعی نیست. نکته اصلی این است که افراد نباید صرفاً بر اساس شنیدن صدایی آشنا درباره هویت تماسگیرنده یا درخواست او تصمیم بگیرند. بررسی مستقل اطلاعات و استفاده از روشهای دیگری برای تأیید هویت میتواند اهمیت بیشتری پیدا کند.گسترش فناوری شبیهسازی صدا نشان میدهد که کلاهبرداریهای مبتنی بر هوش مصنوعی تنها مسئلهای فنی نیستند؛ بلکه مستقیماً با شیوه تصمیمگیری انسان ارتباط دارند. هرچه صداهای مصنوعی طبیعیتر شوند، مقابله با سوءاستفاده از آنها نیز بیش از گذشته به آگاهی و دقت کاربران وابسته خواهد بود.در سالهای اخیر، تماسهای صوتی جعلی از یک تهدید محدود به کلاهبرداریهای هدفمند به ابزاری در دسترستر تبدیل شدهاند. همزمان با رشد فناوریهای تولید صدای مصنوعی، نمونههایی از سوءاستفاده از صدای افراد برای فریب خانوادهها، کارکنان شرکتها و قربانیان مالی در کشورهای مختلف گزارش شده است.
