Abstract
Enhanced Hardware Implementation of Hybrid Stochastic
Neural Network using FPGA
Rafid Ahmed Khalil Mustafa Salim
Email:
[email protected] Email:
[email protected]
Abstract
Most of the traditional digital implemented systems uses fixed point or floating
point for representing and processing data. An alternative approach is to represent data
as random bits that are distributed along the sequence. To be precise, stochastic logic
can be considered as a solution for hardware size for application that consume physical
area like neural networks as it uses logic gates to implement complex operations and its
inherits resistance to bit flips noise. To avoid some of the problems that this type of
processing suffers from, a combination of stochastic logic and classical logic (fixed point)
is used to implement a neural networks (Fully connected feed-forwards) that is
characterized by FPGA large size consuming. The stochastic logic is utilized have to
implement part of the multiplication operations in the hidden layers of network and
LFSR is used as a random generator for conversion of weights and activation functions
outputs. The hardware utilization of Spartan 3E-500K FPGA results are compared with
another network of the same size. A discussion of some of the issues that related to this
methodology faces is also presented.
Key words: Artificial neural networks, LFSR, Probabilistic computation, Stochastic
arithmetic, FPGA, Stochastic logic.
تنفيذ شكبة عصبية عشوائية هيجنة ومحسنة
FPGA بأستخدام
رأفد احمد خليل مصطفى سالم
الخلاصة
أغلب الانظمة الرقمية تطبق العلميات الرياضية عن طريق استخدام التمثيل الرقمي ذو النقطة الثابتة أو الفاصلة
العائمة أن البديل هو ترميز الارقام المراد معالجتها بسلسلة من الصفر والواحد وبصورة عشوائية أي المنطق العشوائي,
حيث أعتبر كبديل للمنطق الاعتيادي في التطبيقات التي تستهللك مساحه سيلكونية كبيرة كونه يحتاج الى داوئر بسيطة
ت ج ن ب ا لب ع ض ا لم ش اك ل ا لت ي ي ع ان ي م ن ه ا ه ذ ا ا لن و ع م ن .)bit flips( لتنفيذ العمليات الرياضية المعقدة ومقاومته للضوضاء
(Fully connected feed- المعالجة تم دمج هذا المنطق مع المنطق الاعتيادي في تنفيذ شبكة عصبية نوع
حيث تم أستخدام المنطق العشوائي في أجراء جزء من FPGA التي تتميز باستهلاكها الكبير لشريحة forward)
في أجراء (LFSR) عمليات الضرب في الطبقات الخفية من الشبكة العصبية مع استخدام مولد أرقام عشوائية من نوع
عملية تحويل الأوزان وأخراجات دوال التفعيل. تم مقارنة النتائج مع شبكة أخرى من نفس الحجم ومناقشة بعض النتائج.
