راه‌ حل ‌های هوشمند سنتی داده-محور به یک رویکرد یادگیری ماشینی متمرکز (centralized machine learning-based approach) متکی هستند که اولا، مستلزم تجمیع داده‌ ها (Centralized processing unit) در یک واحد پردازش متمرکز (مانند یک سرور ابری) هستند، و دوما، به رضایت همه مشارکت ‌کنندگان یا مالکان داده برای اشتراک‌ گذاری داده هایشان در چنین واحد پردازش متمرکزی نیاز دارد (Khan et al., 2022). برای مثال، نگرانی ‌های مربوط به حریم خصوصی و امنیت داده ‌ها یکی از دلایل اصلی عدم تمایل صاحبان داده در رابطه با به اشتراک‌ گذاری اطلاعاتشان با دیگران است. برای مثال در صنعت مراقبت های بهداشتی (healthcare industry)، نشتی داده ها (data breaches) برای ارائه دهندگان بسیار پرهزینه است (Bai et al., 2017; McCoy  Jr & Perlis, 2018). این امر تا آن جایی  مورد توجه ذی نفعان بوده که مقررات حفاظت از حریم خصوصی به عنوان یک چالش مهم، مانع از به کارگیری فناوری پرونده الکترونیکی سلامت سازمانی (enterprise electronic health) در تبادل اطلاعات بوده است (Miller & Tucker, 2009). در واقع دسترسی محدود به داده‌ ها در مقیاس بزرگ، مانعی کلیدی برای ساخت برنامه‌ های یادگیری ماشین است و تا حدی به دلیل عدم تمایل به تبادل اطلاعات بین صاحبان داده‌ به دلیل نگرانی ‌های حفظ حریم خصوصی و امنیت داده رخ می دهد. به این مشکل اصطلاحا مشکل سیلوی اطلاعات (information silo) اطلاق می شود. برای رسیدگی به مشکل سیلو اطلاعات و در عین حال حفاظت از حریم خصوصی و امنیت داده ها، یادگیری فدرال (Federated learning (FL)) به عنوان یک رویکرد محاسباتی جدید که آموزش غیر متمرکز مدل های یادگیری ماشین را امکان پذیر می کند، مورد توجه قرار گرفته است (Bi et al., 2023).

یادگیری فدرال (Federated learning) این امکان را برای منابع داده مختلف فراهم می آورد تا بدون به اشتراک گذاری داده های خام خود، به آموزش یک مدل بپردازند. بدین ترتیب یادگیری فدرال، به حفاظت بیشتر از حریم خصوصی در به اشتراک گذاری داده ها کمک می کند (Lu et al., 2020). یادگیری فدرال، به تعبیری یادگیری ماشین غیر متمرکز (Decentralized machine learning) است که در آن یک مدل در سراسر دستگاه ‌های لبه (edge devices) مانند تلفن ‌های همراه که حاوی مجموعه داده ‌های متفاوت است، آموزش داده می ‌شود، بدون آن که داده ای به اشتراک‌ بگذارند (Suhag & Jha, 2023). به طور کلی، یادگیری فدرال به عنوان یک نمونه یادگیری ماشینی تعریف می شود که در آن چندین کاربر (clients) برای حل یک (یا چند) مشکل یادگیری، تحت یک رهبری مرکزی، همکاری می کنند (Kairouz et al., 2021; T. Li et al., 2020). در واقع دریک فرایند یادگیری فدرال، هر سیستمی از داده های محلی برای آموزش محلی استفاده می کند، سپس بروزرسانی مدل جهت تجمیع به سرور منتقل می شود و در نهایت سرور مدل به روز شده را به شرکت کنندگان تحویل می دهد (Q. Li et al., 2023). به بیانی بهتر، در یک یادگیری فدرال یک سرور (server) با جمع آوری مدل های محلی آموزش داده شده، به یک مدل یادگیری جهانی (Global model) می رسد. به طور دقیق تر، در هر دوره آموزشی (training epoch)، سرور مدل فعلی را برای کاربران ارسال می کند، و کاربران نیز یک به روز رسانی از مدل دریافتی را بر اساس مجموعه داده های خصوصی خود به سرور بر می گردانند. سپس سرور بروز رسانی های دریافتی را جمع آوری کرده و به بروزرسانی مدل مرکزی می پردازد (Bi et al., 2023; Blanco-Justicia et al., 2021). از این رو، یادگیری فدرال به حفظ حریم خصوصی داده ‌های دریافتی از دستگاه ‌های مختلف اینترنت اشیا (Internet of Things (IoT)) در یک شبکه نیز کمک می کند (Huda et al., 2024). یادگیری فدرال توسط مک ماهان (McMahan) در سال 2017 و در مقاله ای تحت عنوان یادگیری کارآمد ارتباطات شبکه های عمیق بر اساس داده های غیرمتمرکز، ارائه شده است، که می توان برای کسب اطلاعات بیشتر به آن مراجعه نمود (McMahan et al., 2017).

یادگیری فدرال در دسته بندی های مختلفی مورد مطالعه قرار می گیرد که به دو مورد از آن ها اشاره می کنیم. ابتدا، بسته به اندازه و نوع مشتریان (Clients)، یادگیری فدرال می تواند به دو دسته بین دستگاهی (cross-device) و بین سازمانی (cross-silo) تقسیم شود. اصطلاح “یادگیری فدرال” در ابتدا تحت تنظیمات بین دستگاهی ابداع شد، جایی که تعداد زیادی (میلیون ها یا میلیاردها) دستگاه موبایل یا اینترنت اشیا تحت هماهنگی یک ارائه دهنده خدمات مرکزی (central service provider) متصل هستند. مدل پیشبینی صفحه‌ کلید تلفن همراه گوگل (Hard et al., 2018) و یادگیری فدرال خصوصی اپل در iOS 13 (Bhowmick et al., 2018) نمونه ‌هایی از این قبیل هستند. اگرچه تعداد کل مشتریان بالقوه در روش بین دستگاهی بسیار زیاد است، با این حال در هر لحظه معمولاً تنها بخش کوچکی از مشتریان جهت تبادل اطلاعات در دسترس هستند و بیشتر آن ها ممکن است به دلیل محدودیت‌ های ارتباطی، سخت افزاری، و غیره فقط در یک دور از محاسبات فدرال (federated computations) شرکت کنند. در مقابل، در یادگیری فدرال بین سازمانی شامل تعداد نسبتاً کمی از شرکت کنندگان معتبر است، مانند سازمان های مالی، مؤسسات مراقبت های بهداشتی، شرکت های داروسازی، یا تولیدکنندگان صنعتی. این مشتریان معمولاً قابلیت‌های فنی پیچیده‌تری دارند (به عنوان مثال، سرورهای پایدار و سخت‌افزار محاسباتی) و مایلند در چندین دور یادگیری فدرال شرکت کنند. همچنین در یک دسته بندی دیگر یادگیری فدرال به دو حالت یادگیری افقی (horizontal) و عمودی (vertical) تقسیم می شود. در یادگیری افقی، هر مشتری نمونه داده های متفاوتی را با مجموعه ای از ویژگی های یکسان نگهداری می کند. در یادگیری عمودی، کاربران مجموعه مشابهی از نمونه‌های داده دارند اما هم پوشانی بین ویژگی های داده های مشتریان دیده نمی شود (Bi et al., 2023).

منابع

Bai, G., Jiang, J. (Xuefeng), & Flasher, R. (2017). Hospital Risk of Data Breaches. JAMA Internal Medicine, 177(6), 878–880. https://doi.org/10.1001/jamainternmed.2017.0336

Bhowmick, A., Duchi, J., Freudiger, J., Kapoor, G., & Rogers, R. (2018). Protection against reconstruction and its applications in private federated learning. arXiv preprint arXiv:1812.00984.

Bi, X., Gupta, A., & Yang, M. (2023). Understanding Partnership Formation and Repeated Contributions in Federated Learning: An Analytical Investigation. Management Science, 70(8), 4974–4994. https://doi.org/10.1287/mnsc.2023.00611

Blanco-Justicia, A., Domingo-Ferrer, J., Martínez, S., Sánchez, D., Flanagan, A., & Tan, K. E. (2021). Achieving security and privacy in federated learning systems: Survey, research challenges and future directions. Engineering Applications of Artificial Intelligence, 106, 104468. https://doi.org/https://doi.org/10.1016/j.engappai.2021.104468

Hard, A., Rao, K., Mathews, R., Ramaswamy, S., Beaufays, F., Augenstein, S., Eichner, H., Kiddon, C., & Ramage, D. (2018). Federated learning for mobile keyboard prediction. arXiv preprint arXiv:1811.03604.

Huda, N. U., Ahmed, I., Adnan, M., Ali, M., & Naeem, F. (2024). Experts and intelligent systems for smart homes’ Transformation to Sustainable Smart Cities: A comprehensive review. Expert Systems with Applications, 238, 122380. https://doi.org/https://doi.org/10.1016/j.eswa.2023.122380

Kairouz, P., McMahan, H. B., Avent, B., Bellet, A., Bennis, M., Bhagoji, A. N., Bonawitz, K., Charles, Z., Cormode, G., Cummings, R., & others. (2021). Advances and open problems in federated learning. Foundations and trends®in machine learning, 14(1–2), 1–210.

Khan, M. A., El Sayed, H., Malik, S., Zia, M. T., Alkaabi, N., & Khan, J. (2022). A journey towards fully autonomous driving – fueled by a smart communication system. Vehicular Communications, 36, 100476. https://doi.org/https://doi.org/10.1016/j.vehcom.2022.100476

Li, Q., Wen, Z., Wu, Z., Hu, S., Wang, N., Li, Y., Liu, X., & He, B. (2023). A Survey on Federated Learning Systems: Vision, Hype and Reality for Data Privacy and Protection. IEEE Transactions on Knowledge and Data Engineering, 35(4), 3347–3366. https://doi.org/10.1109/TKDE.2021.3124599

Li, T., Sahu, A. K., Talwalkar, A., & Smith, V. (2020). Federated Learning: Challenges, Methods, and Future Directions. IEEE Signal Processing Magazine, 37(3), 50–60. https://doi.org/10.1109/MSP.2020.2975749

Lu, Y., Huang, X., Dai, Y., Maharjan, S., & Zhang, Y. (2020). Blockchain and Federated Learning for Privacy-Preserved Data Sharing in Industrial IoT. IEEE Transactions on Industrial Informatics, 16(6), 4177–4186. https://doi.org/10.1109/TII.2019.2942190

McCoy  Jr, T. H., & Perlis, R. H. (2018). Temporal Trends and Characteristics of Reportable Health Data Breaches, 2010-2017. JAMA, 320(12), 1282–1284. https://doi.org/10.1001/jama.2018.9222

McMahan, B., Moore, E., Ramage, D., Hampson, S., & y Arcas, B. A. (2017). Communication-efficient learning of deep networks from decentralized data. Artificial intelligence and statistics, 1273–1282.

Miller, A. R., & Tucker, C. (2009). Privacy Protection and Technology Diffusion: The Case of Electronic Medical Records. Management Science, 55(7), 1077–1093. https://doi.org/10.1287/mnsc.1090.1014

Suhag, D., & Jha, V. (2023). A comprehensive survey on mobile crowdsensing systems. Journal of Systems Architecture, 142, 102952. https://doi.org/https://doi.org/10.1016/j.sysarc.2023.102952