Enhanced Hardware Implementation of Hybrid Stochastic Neural Network using FPGA

Abstract

Enhanced Hardware Implementation of Hybrid Stochastic Neural Network using FPGA Rafid Ahmed Khalil Mustafa Salim Email:[email protected] Email:[email protected] Abstract Most of the traditional digital implemented systems uses fixed point or floating point for representing and processing data. An alternative approach is to represent data as random bits that are distributed along the sequence. To be precise, stochastic logic can be considered as a solution for hardware size for application that consume physical area like neural networks as it uses logic gates to implement complex operations and its inherits resistance to bit flips noise. To avoid some of the problems that this type of processing suffers from, a combination of stochastic logic and classical logic (fixed point) is used to implement a neural networks (Fully connected feed-forwards) that is characterized by FPGA large size consuming. The stochastic logic is utilized have to implement part of the multiplication operations in the hidden layers of network and LFSR is used as a random generator for conversion of weights and activation functions outputs. The hardware utilization of Spartan 3E-500K FPGA results are compared with another network of the same size. A discussion of some of the issues that related to this methodology faces is also presented. Key words: Artificial neural networks, LFSR, Probabilistic computation, Stochastic arithmetic, FPGA, Stochastic logic. تنفيذ شكبة عصبية عشوائية هيجنة ومحسنة FPGA بأستخدام رأفد احمد خليل مصطفى سالم الخلاصة أغلب الانظمة الرقمية تطبق العلميات الرياضية عن طريق استخدام التمثيل الرقمي ذو النقطة الثابتة أو الفاصلة العائمة أن البديل هو ترميز الارقام المراد معالجتها بسلسلة من الصفر والواحد وبصورة عشوائية أي المنطق العشوائي, حيث أعتبر كبديل للمنطق الاعتيادي في التطبيقات التي تستهللك مساحه سيلكونية كبيرة كونه يحتاج الى داوئر بسيطة ت ج ن ب ا لب ع ض ا لم ش اك ل ا لت ي ي ع ان ي م ن ه ا ه ذ ا ا لن و ع م ن .)bit flips( لتنفيذ العمليات الرياضية المعقدة ومقاومته للضوضاء (Fully connected feed- المعالجة تم دمج هذا المنطق مع المنطق الاعتيادي في تنفيذ شبكة عصبية نوع حيث تم أستخدام المنطق العشوائي في أجراء جزء من FPGA التي تتميز باستهلاكها الكبير لشريحة forward) في أجراء (LFSR) عمليات الضرب في الطبقات الخفية من الشبكة العصبية مع استخدام مولد أرقام عشوائية من نوع عملية تحويل الأوزان وأخراجات دوال التفعيل. تم مقارنة النتائج مع شبكة أخرى من نفس الحجم ومناقشة بعض النتائج.