CFU Playground: Kerangka Sumber Terbuka Full-Stack untuk Akselerasi TinyML di FPGA

CFU Playground: Kerangka Sumber Terbuka Full-Stack untuk Akselerasi TinyML di FPGA


Warning: Undefined array key "tie_hide_meta" in /home/suara/public_html/wp-content/themes/sahifa/framework/parts/meta-post.php on line 3

Warning: Trying to access array offset on null in /home/suara/public_html/wp-content/themes/sahifa/framework/parts/meta-post.php on line 3

Ingin prosesor ML yang lebih cepat? Lakukan sendiri!

Proyek ini menyediakan kerangka kerja yang dapat digunakan oleh seorang insinyur, magang, atau siswa untuk merancang dan mengevaluasi peningkatan ke FPGA- berbasis prosesor “lunak”, khusus untuk meningkatkan kinerja tugas pembelajaran mesin (ML). Tujuannya adalah untuk mengabstraksikan sebagian besar detail infrastruktur sehingga pengguna dapat mempercepat dengan cepat dan hanya fokus pada penambahan instruksi prosesor baru, mengeksploitasinya dalam komputasi, dan mengukur hasilnya.

Proyek ini memungkinkan iterasi cepat pada peningkatan prosesor — beberapa iterasi per hari.

Begini cara kerjanya:

  • Pilih model TensorFlow Lite; model deteksi orang terkuantisasi disediakan, atau bawa sendiri.
  • Jalankan inferensi pada papan Arty FPGA untuk mendapatkan jumlah siklus per lapisan.
  • Pilih operator TFLite untuk mempercepat, dan gali kode itu.
  • Desain baru instruksi yang dapat menggantikan beberapa operasi dasar.
  • Membangun unit fungsi kustom (sejumlah kecil perangkat keras) yang menjalankan instruksi baru .
  • Modifikasi kernel perpustakaan TFLite/Micro untuk menggunakan instruksi baru, yang tersedia sebagai intrinsik dengan sintaks panggilan fungsi.
  • Buat ulang Soc FPGA, kompilasi ulang perpustakaan TFLM, dan jalankan kembali untuk mengukur peningkatan.

Fokus di sini adalah performa, bukan demo. Input ke inferensi ML dikalengkan/dipalsukan, dan satu-satunya output adalah jumlah siklus. Perbaikan yang dibuat di sini dapat diekspor ke demo yang sebenarnya, tetapi saat ini tidak ada jalur yang disiapkan untuk melakukannya.

Dengan pengecualian Vivado, semua yang digunakan oleh proyek ini adalah open source.

Penafian: Ini bukan proyek Google yang didukung secara resmi. Dukungan dan/atau rilis baru mungkin terbatas.

Ini adalah prototipe awal kerangka kerja eksplorasi ML; mengharapkan kurangnya dokumentasi dan kerusakan sesekali. Jika Anda ingin berkolaborasi dalam membangun kerangka kerja ini, hubungi tcal@google.com! Lihat “Pedoman kontribusi” di bawah.

Perangkat keras/OS yang diperlukan

  • Salah satu papan yang didukung oleh Papan LiteX. Sebagian besar target Papan LiteX harus berfungsi.
    Itu telah diuji pada Arty A7-35T/100T, iCEBreaker, Fomu, OrangeCrab
      , ULX3S

        , dan Nexys Video

          boards.

  • Satu-satunya OS host yang didukung adalah Linux (Debian / Ubuntu).

Anda tidak memerlukan papan apa pun jika ingin menjalankan simulasi Renode atau Verilator.

Perangkat lunak yang diasumsikan

  • FPGA Toolchain: itu tergantung pada papan yang dipilih. Jika Anda sudah memasang rantai alat untuk papan Anda, Anda dapat menggunakannya.

Untuk papan dengan bagian Xilinx XC7, Anda dapat menggunakan Vivado, yang harus diinstal secara manual (ini panduan kami), atau rantai alat SymbiFlow open-source, yang dapat dengan mudah diinstal menggunakan Conda (lihat Panduan Pemasangan).

Untuk papan dengan Lattice iCE40, ECP5, atau Nexus FPGA, Anda dapat menginstal seperangkat alat sumber terbuka yang sesuai baik melalui Conda (lihat Panduan Penyiapan) atau sendiri dengan membangun dari sumber. Atau, Anda dapat menggunakan toolchain Lattice (Radiant/Diamond).

Jika Anda ingin mencoba berbagai hal menggunakan simulasi Renode, maka Anda tidak memerlukan board atau toolchain. Anda juga dapat melakukan simulasi akurat siklus tingkat Verilog dengan Verilator, tetapi ini jauh lebih lambat. Renode diinstal oleh skrip setup.

Paket lain yang diperlukan akan diperiksa dan, jika pada sistem berbasis Debian, otomatis diinstal oleh skrip setup di bawah.

Mempersiapkan

Klon repo ini, cd ke dalamnya, lalu jalankan:

Gunakan dengan papan

Papan default adalah Arty. Jika Anda ingin menggunakan papan yang berbeda, Anda harus menentukan target, misalnya TARGET=digilent_nexys_video

    .

    1. Bangun SoC dan muat bitstream ke Arty: 
      CD proj/proj_template buat prog

      Ini membangun SoC dengan CFU default dari proj/proj_template. Nanti Anda akan menyalin ini dan memodifikasinya untuk membuat proyek Anda sendiri.

    2. Buat program RISC-V dan jalankan di SoC yang baru saja Anda muat ke Arty:

    3. Gunakan tanpa papan

      Jika Anda tidak memiliki papan yang didukung oleh Papan LiteX, Anda dapat menggunakan Renode atau Verilator untuk mensimulasikannya.

      Untuk menggunakan Renode untuk mengeksekusi pada simulator pada mesin host (tidak diperlukan papan Vivado atau Arty), jalankan:

      Untuk menggunakan Verilator untuk mengeksekusi pada simulator tingkat RTL yang akurat siklus ( tidak diperlukan papan Vivado atau Arty), jalankan:

      Bendera make paling berguna

      4. Pilihan

      common_soc

      digilent_arty

      Penjelasan Contoh Bawaan
      PERON
      Pilih platform SoC yang Anda inginkan untuk membangun: hps atau sim atau umum_soc membuat bitstream PLATFORM=hps
      TARGET

      		Pilih salah satu dari banyak target dari repositori LiteX Boards,
      common_soc akan mengambil BaseSoC dari yang ditentukan target.py      		 buat bitstream TARGET=nexys_video_board
      USE_VIVADO
      Gunakan rantai alat Vivado buat bitstream USE_VIVADO=1 0 USE_SYMBIFLOW Gunakan rantai alat Symbiflow buat bitstream USE_SYMBIFLOW=1 0 UART_SPEED Pilih baudrate UART membuat bitstream UART_SPEED=115200 3686400 ABAIKAN_TIMING Abaikan waktu kendala (hanya untuk Vivado) buat bitstream USE_VIVADO=1 IGNORE_TIMING=1

      0

  • LiteX: Kerangka kerja sumber terbuka untuk merakit SoC (CPU + periferal)
  • VexRiscv: RISC sumber terbuka- V soft CPU yang dioptimalkan untuk FPGA
  • nMigen: Python toolbox untuk membangun perangkat keras digital

    • Berlisensi di bawah lisensi Apache-2.0

    Lihat file LISENSI.

    Pedoman kontribusi

    Jika Anda ingin berkontribusi di CFU Playground, pastikan untuk membaca panduan kontribusi. Proyek ini mematuhi kode etik Google. Dengan berpartisipasi, Anda diharapkan untuk menjunjung tinggi kode ini.

      Baca selengkapnya

      Rekomendasi:

      • Laptop terbaik untuk mengedit video Gordon Mah Ung / IDG Pengeditan video adalah salah satu tugas paling berat yang dapat Anda lakukan di PC, jadi saat Anda berbelanja laptop untuk mengedit video, Anda saya ingin…
      • Apple Diam-diam Menyertakan Fitur Luar Biasa di… IPhone 13 Pro memiliki beberapa fitur hebat yang sulit untuk dilewatkan. Sistem kamera, yang secara harfiah lebih besar dari sebelumnya, adalah salah satu contoh nyata. Tidak hanya lensa dan sensor…
      • Pixel 6 Google yang besar dan berani membidik Apple… Selama lima tahun, Google telah mencoba menunjukkan kepada dunia seluler cara yang benar (atau setidaknya cara Google) untuk membuat ponsel Android. Dan selama lima tahun, masyarakat umum pembeli telepon menjawab…
      • BrainChip Bermitra Dengan MegaChips Untuk… Tanggal publikasi: 21 Nov 2021 18:18 ESTBrainChip Holdings Ltd (ASX: BRN), (OTCQX: BCHPY) penyedia terkemuka kecerdasan buatan kinerja tinggi berdaya sangat rendah teknologi dan produsen chip AI neuromorfik dan IP…
      • AMD: tambalan datang untuk masalah kinerja Windows 11 Sejak pembaruan Windows 11 mulai diluncurkan awal minggu ini, beberapa orang telah mengomentari dampak kinerja dengan konfigurasi perangkat keras / perangkat lunak tertentu. AMD telah mengkonfirmasi masalah yang hadir dengan…
      • Intel memahkotai kepala PC baru Intel Intel telah menunjuk Michelle Johnston Holthaus, wakil presiden eksekutif saat ini dari Grup Penjualan, Pemasaran, dan Komunikasinya, sebagai kepala baru Grup Komputasi Klien ( CCG), yang mencakup jajaran prosesor…
      • Azulle Ally – PC Mini Android 10 untuk aplikasi bisnis Di era digital saat ini, semakin banyak bisnis di seluruh dunia yang menggunakan aplikasi bisnis yang berjalan khusus di Android untuk menjalankan operasionalnya dengan lancar. Di zaman di mana pengiriman…
      • Mac Studio Apple Adalah Desktop yang Lebih Perkasa… Dari iPhone SE dan iPad Air baru hingga chipset M1 Ultra yang kuat, acara perangkat keras musim semi Apple menghadirkan versi terbaru dari gadget dan prosesor yang ada. Tetapi perusahaan…
      • Alat Baru Mengukur Green IT, Keberhasilan Keberlanjutan Seiring perusahaan berusaha untuk membawa keberlanjutan ke tingkat berikutnya dan mendapatkan gambaran yang lebih lengkap tentang emisi gas rumah kaca mereka, ada kebutuhan yang semakin besar untuk mengukur hasil dan…
      • Raspberry Pi Zero 2 W seharga $15 siap untuk… Raspberry Pi Perusahaan Raspberry Pi terkenal dengan lini produk eponim utamanya, sekarang dalam inkarnasi keempatnya (dan juga menjadi sedikit lebih mahal, setidaknya untuk sementara). Tetapi ada berbagai macam variasi pada…
      • Build Windows 11 baru yang tersedia untuk Insiders… Melalui kaca: Rilis Windows 11 terbaru telah mengganggu pengguna AMD dengan beberapa masalah kinerja yang terdokumentasi. Sebuah posting blog dari Tim Program Insider Windows menunjukkan bahwa perbaikan untuk kinerja cache…
      • CPU AMD Ryzen 7000 series Zen 4 yang baru dirilis… Baru-baru ini, AMD telah secara resmi mengumumkan peluncuran seri CPU Desktop AMD Ryzen 7000 yang barudidukung oleh arsitektur mikro Zen 4 terbaru dari AMD, didukung oleh node proses N5 5nm…
      • Apa yang Terjadi dengan Superkomputer Bisnis? Pernah tampak tak terelakkan -- suatu hal yang pasti -- bahwa superkomputer akan membantu bisnis mengatasi tuntutan yang dipaksakan oleh basis data besar, alat teknik yang kompleks, dan prosesor lainnya…
      • Motorola dan Verizon membuat '5G Neckband' untuk… Semua orang menginginkan sepotong metaverse. Sejak Facebook mengganti nama dan membaptis dirinya sendiri Meta, minat pada VR dan AR telah melonjak lagi. Kami telah melihat perusahaan seperti Google, Samsung, LG…
      • SubQuery: Membuat Kompatibilitas Lintas Rantai… SubQuery adalah agregasi data terdesentralisasi dan lapisan kueri antara blockchain Layer-1 dan aplikasi terdesentralisasi (dApps).Ini dirancang untuk membantu pengembang fokus pada kasus penggunaan inti dan fungsi front-end – sehingga mereka…
      • Bagaimana membuat AI lebih ramah lingkungan dan… Wirth Research, sebuah perusahaan teknik yang mengkhususkan diri dalam dinamika fluida komputasi, menjadi semakin peduli dengan kelestarian lingkungan. Awalnya berfokus pada desain mobil balap, memungkinkan klien untuk mengganti angin yang…
      • Pendingin AiO generasi berikutnya dari Corsair… Sepertinya Corsair sedang menyiapkan jajaran pendingin cair CPU All-in-One generasi berikutnya tepat pada waktunya untuk peluncuran prosesor Intel Alder Lake untuk PC desktop. Situs teknologi yang berfokus pada kebocoran VideoCardz…
      • Chrome OS Flex mengubah PC lama menjadi Chromebook… Google telah merilis Chrome OS Flex, sebuah cara untuk mengambil perangkat keras Windows dan Mac yang lebih lama dan mengganti sistem operasinya, mengubahnya menjadi Chromebook. Meskipun Google menyebut Chrome OS…
      • Acer memperkenalkan laptop Windows 11 untuk para… 4 Oktober 2021 13:00 Acer Nitro adalah laptop Windows 11 baru untuk para gamer. Kredit Gambar: Acer Bergabunglah dengan pemimpin game online di GamesBeat Summit Next 9 November mendatang -10.…
      • 5 Alat Manajemen Proyek untuk Pengembang Perangkat Lunak Ketika sebagian besar tim memikirkan perangkat lunak manajemen proyek, mereka berpikir untuk menggunakannya agar tetap teratur dan sesuai tugas. Namun, untuk pengembang perangkat lunak, alat manajemen proyek lebih dari itu.…
      • Fondasi untuk proyek pertama Anda Sebuah komputer kecil namun kuat, Raspberry Pi telah menarik minat para pecinta dan penggemar teknologi di seluruh dunia. Ini memberikan metode luar biasa untuk menjelajahi dunia gadget dan proyek DIY,…
      • Fraugster bekerja sama dengan Elvah untuk mengatasi… Pekan lalu, penyedia intelijen pembayaran Fraugster mengumumkan bahwa mereka telah menjalin kemitraan dengan perusahaan e-mobilitas Elvah untuk menciptakan layanan perlindungan pembayaran terkelola baru. Di masa depan, Elvah akan menawarkan perlindungan…
      • Teknologi berbasis ML adalah terobosan berikutnya… 29 November 2021 16:40 Kredit Gambar: kentoh/Shutterstock Mendengar dari CIO, CTO, dan eksekutif tingkat C dan senior lainnya tentang data dan strategi AI di Future of Work Summit 12 Januari…
      • Facebook menanam ide metaverse tetapi Apple… Pengguna media sosial dan dunia bisnis sekarang memiliki gambaran umum tentang apa itu metaverse, berkat penyemaian istilah selama setahun oleh CEO Meta Mark Zuckerberg pada panggilan investor dan selanjutnya mengubah…
      • Sepasang sampel rekayasa AMD Zen 4 telah muncul… Berwawasan ke depan: AMD mengumumkan Zen 4 awal pekan ini di CES 2022, tetapi mereka tidak merincinya. Jadi, biarkan kebocoran seri Ryzen 7000 dimulai. Sepasang sampel teknik telah ditemukan di…
      • 3 Cara untuk Lebih Baik Menerapkan AI ke Kumpulan Data Kecil Ukuran sampel selalu berperan dalam ilmu data, tetapi ada beberapa contoh di mana risiko, waktu, atau biaya akan membatasi ukuran data Anda: Anda hanya dapat meluncurkan roket satu kali; Anda…
      • 2021 adalah tahun terobosan bagi AI 29 Desember 2021 16:40 Kredit Gambar: Andriy Onufriyenko/Getty Images Mendengar dari CIO, CTO, dan eksekutif tingkat C dan senior lainnya tentang data dan strategi AI di Future of Work Summit…
      • Rahasia Xiaomi Mi T : Tips & Cara Memmaksimalkan Ponsel Anda ## Tips dan Trik Xiaomi 13T: Memaksimalkan Ponsel Anda dengan Fitur-fitur Canggih Xiaomi 13T hadir dengan berbagai fitur canggih yang dapat memudahkan dan mempercepat berbagai aktivitas Anda. Namun, tidak semua…
      • McKinsey menyumbangkan alat pipa pembelajaran mesin… 19 Januari 2022 21:00 Kredit Gambar: Getty Images Apakah Anda melewatkan sesi dari Future of Work Summit? Kunjungi perpustakaan sesuai permintaan Future of Work Summit kami untuk streaming. Biarkan buletin…
      • Instrumen V Collection Arturia sekarang memiliki… Sekarang jauh lebih mudah menggunakan softsynths Arturia di MacBook baru Anda. Arturia telah merilis pembaruan V Collection 8.2 gratis yang menambahkan dukungan asli ke suite (saat ini didiskon) untuk Mac…
      Designed by SuaraSekitar Terkini
      © Copyright 2026, All Rights Reserved