ISO IEC 15938-17 Neural Networks

ISO IEC 15938-17 adalah Standar Internasional mengenai Teknologi informasi, khususnya tentang antarmuka deskripsi konten multimedia, bagian 17: Compression of neural networks for multimedia content description and analysis.

Standar versi terbaru yang masih berlaku adalah terbitan tahun 2022 dengan judul berikut :

  • ISO/IEC 15938-17:2022 Information technology — Multimedia content description interface — Part 17: Compression of neural networks for multimedia content description and analysis

Standar ISO/IEC 15938-17:2022

Dokumen ini menetapkan Neural Network Coding (NNC) sebagai representasi terkompresi dari parameter/bobot jaringan saraf terlatih dan proses decoding untuk representasi terkompresi, melengkapi deskripsi topologi jaringan dalam format (pertukaran) yang ada untuk jaringan saraf. Ini menetapkan kotak alat metode kompresi, menentukan (jika berlaku) elemen yang dihasilkan dari aliran bit terkompresi.

Dokumen ini tidak menentukan protokol lengkap untuk transmisi jaringan saraf, tetapi berfokus pada kompresi parameter jaringan.

Hanya format sintaksis, semantik, persyaratan proses decoding terkait, sparsifikasi parameter, metode transformasi parameter, kuantisasi parameter, metode pengkodean entropi, dan integrasi/pensinyalan dalam format pertukaran yang ada yang ditentukan, sedangkan hal-hal lain seperti pra-pemrosesan, pensinyalan sistem, dan multiplexing, pemulihan kehilangan data dan pasca-pemrosesan dianggap berada di luar cakupan dokumen ini.

Selain itu, langkah pemrosesan internal yang dilakukan dalam dekoder juga dianggap berada di luar cakupan dokumen ini; hanya perilaku keluaran yang dapat diamati secara eksternal yang diperlukan untuk menyesuaikan dengan spesifikasi dokumen ini.

Penerbitan Standar ISO/IEC 15938-17:2022

Standar ini diterbitkan dan dipublikasikan pada Agustus 2022, berupa dokumen edisi 1 dengan jumlah halaman sebanyak 77 lembar.

Disusun oleh :

  • Technical Committee ISO/IEC JTC 1/SC 29 Coding of audio, picture, multimedia and hypermedia information,
  • atau : Komite Teknis ISO/IEC JTC 1/SC 29 Coding informasi audio, gambar, multimedia dan hypermedia.

ICS :

  • 35.040.40 Coding of audio, video, multimedia and hypermedia information, atau : 35.040.40 Pengkodean informasi audio, video, multimedia dan hypermedia

Standar ini berkontribusi pada Tujuan Pembangunan Berkelanjutan atau Sustainable Development Goal berikut:

  • Kota dan masyarakat berkelanjutan
  • Industri, inovasi dan infrastruktur

Sebagaimana standar ISO lainnya, ISO/IEC 15938-17:2022 ini juga ditinjau setiap 5 tahun dan peninjauan sudah mencapai tahap 90.92 (akan direvisi).

Saat ini, badan ISO tengah melakukan pengembangan standar pengganti yakni ISO/IEC DIS 15938-17.

Isi Standar ISO/IEC 15938-17:2022

Berikut adalah kutipan isi Standar ISO/IEC 15938-17:2022 yang diambil dari Online Browsing Platform (OBP) dari situs resmi iso.org.

Yang ditambah dengan berbagai keterangan dan informasi untuk mempermudah pemahaman pembaca.

Hanya bagian standar yang informatif yang tersedia untuk umum, OBP hanya menampilkan hingga klausa 3 saja.

Oleh karena itu, untuk melihat konten lengkap dari standar ini, maka pembaca harus membeli standar dari ISO ini secara resmi.

Daftar Isi Standar ISO/IEC 15938-17:2022

  • Foreword
  • Introduction
  • 1 Scope
  • 2 Normative references
  • 3 Terms and definitions
  • 4 Abbreviated terms, conventions and symbols
  • 4.1 General
  • 4.2 Abbreviated terms
  • 4.3 List of symbols
  • 4.4 Number formats and computation conventions
  • 4.5 Arithmetic operators
  • 4.6 Logical operators
  • 4.7 Relational operators
  • 4.8 Bit-wise operators
  • 4.9 Assignment operators
  • 4.10 Range notation
  • 4.11 Mathematical functions
  • 4.12 Array functions
  • 4.13 Order of operation precedence
  • 4.14 Variables, syntax elements and tables
  • 5 Overview
  • 5.1 General
  • 5.2 Compression tools
  • 5.3 Creating encoding pipelines
  • 6 Syntax and semantics
  • 6.1 Specification of syntax and semantics
  • 6.2 General bitstream syntax elements
  • 6.3 NNR bitstream syntax
  • 6.4 Semantics
  • 7 Decoding process
  • 7.1 General
  • 7.2 NNR decompressed data formats
  • 7.3 Decoding methods
  • 8 Parameter reduction
  • 8.1 General
  • 8.2 Methods
  • 8.3 Syntax and semantics
  • 9 Parameter quantization
  • 9.1 Methods
  • 9.2 Syntax and semantics
  • 10 Entropy coding
  • 10.1 Methods
  • 10.2 Syntax and semantics
  • 10.3 Entropy decoding process
  • Annex A Implementation for NNEF
  • A.1 General
  • A.2 Identifiers
  • A.3 Definitions for use in NNR bitstream
  • A.4 Carriage of NNEF data in NNR bitstream
  • Annex B Implementation for ONNX®
  • B.1 General
  • B.2 Identifiers
  • B.3 Definitions for use in NNR bitstream
  • B.4 Carriage of ONNX data in NNR bitstream
  • Annex C Implementation for PyTorch®
  • C.1 General
  • C.2 Identifiers
  • C.3 Definitions for use in NNR bitstream
  • C.4 Carriage of PyTorch data in NNR bitstream
  • Annex D Implementation for TensorFlow®
  • D.1 General
  • D.2 Identifiers
  • D.3 Definitions for use in NNR bitstream
  • D.4 Carriage of TensorFlow data in NNR bitstream
  • Annex E Recommendation for carriage of NNR bitstreams in other containers
  • E.1 Recommendation for carriage of NNR bitstream in NNEF container organization (to be specified within the NNEF format specification)
  • E.2 Recommendation for carriage of NNR coded bitstream inside ONNX (to be specified within the ONNX format specification)
  • Bibliography

Kata pengantar

Sebagaimana tercantum dalam “Klausa 0 Foreword”, bahwa :

ISO (Organisasi Internasional untuk Standardisasi) dan IEC (Komisi Elektroteknik Internasional) membentuk sistem khusus untuk standardisasi dunia.

Badan nasional yang menjadi anggota ISO atau IEC berpartisipasi dalam pengembangan Standar Internasional melalui komite teknis yang dibentuk oleh organisasi masing-masing untuk menangani bidang kegiatan teknis tertentu.

Komite teknis ISO dan IEC berkolaborasi dalam bidang yang menjadi kepentingan bersama.

Organisasi internasional lainnya, pemerintah dan non-pemerintah, bekerja sama dengan ISO dan IEC, juga ambil bagian dalam pekerjaan tersebut.

Prosedur yang digunakan untuk mengembangkan dokumen ini dan yang dimaksudkan untuk pemeliharaan lebih lanjut dijelaskan dalam Arahan ISO/IEC, Bagian 1.

Secara khusus, kriteria persetujuan yang berbeda yang diperlukan untuk jenis dokumen yang berbeda harus diperhatikan.

Dokumen ini disusun sesuai dengan aturan editorial Arahan ISO/IEC, Bagian 2 (lihat www.iso.org/directives atau www.iec.ch/members_experts/refdocs).

Perhatian tertuju pada kemungkinan bahwa beberapa elemen dari dokumen ini dapat menjadi subjek dari hak paten.

ISO dan IEC tidak bertanggung jawab untuk mengidentifikasi salah satu atau semua hak paten tersebut.

Rincian hak paten yang teridentifikasi selama pengembangan dokumen akan ada di Pendahuluan dan/atau di daftar ISO deklarasi paten yang diterima (lihat www.iso.org/patents) atau daftar deklarasi paten yang diterima IEC (lihat https://patents.iec.ch).

Setiap nama dagang yang digunakan dalam dokumen ini adalah informasi yang diberikan untuk kenyamanan pengguna dan bukan merupakan suatu dukungan.

Tersedia pula halaman Foreword – Supplementary information untuk :

  • penjelasan tentang arti istilah dan ekspresi khusus ISO yang terkait dengan penilaian kesesuaian,
  • informasi tentang kepatuhan ISO terhadap prinsip-prinsip WTO dalam Technical Barriers to Trade (TBT).

Di IEC, lihat www.iec.ch/understanding-standards.

Panitia yang bertanggung jawab atas dokumen ini adalah :

  • ISO/IEC JTC 1, Information technology, SC 29, Coding of audio, picture, multimedia and hypermedia information,
  • atau : ISO/IEC JTC 1, Teknologi informasi, SC 29, Coding audio, gambar, informasi multimedia dan hypermedia.

Mengenal ISO, IEC, WTO dan TBT Agreement

ISO (International Organization for Standardization) adalah suatu organisasi atau lembaga nirlaba internasional,

Tujuan dari ISO adalah untuk membuat dan memperkenalkan standar dan standardisasi internasional untuk berbagai tujuan.

Sebagaimana ISO, IEC juga merupakan suatu organisasi standardisasi internasional yang menyusun dan menerbitkan standar-standar internasional.

Namun ruang lingkupnya adalah untuk seluruh bidang elektrik, elektronik dan teknologi yang terkait atau bidang teknologi elektro (electrotechnology).

TBT Agreement (Technical Barriers to Trade) adalah perjanjian internasional mengenai hambatan teknis perdagangan di bawah kerangka Organisasi WTO (World Trade Organization).

WTO (World Trade Organization) adalah sebuah organisasi resmi internasional yang mengatur standar sistem perdagangan bebas di dunia.

Lebih jelas mengenai ISO, IEC, WTO dan TBT Agreement dapat dibaca pada artikel lain dari standarku.com berikut :

Pengantar Standar

Sebagaimana tercantum dalam “Klausa 0 Introduction”, bahwa :

Jaringan saraf tiruan telah diadopsi untuk berbagai tugas dalam analisis dan pemrosesan multimedia, pengkodean media, analitik data, dan banyak bidang lainnya.

Keberhasilan mereka baru-baru ini didasarkan pada kelayakan pemrosesan jaringan saraf yang jauh lebih besar dan kompleks (jaringan saraf dalam, DNN) daripada di masa lalu, dan ketersediaan kumpulan data pelatihan berskala besar.

Sebagai konsekuensinya, jaringan syaraf terlatih mengandung sejumlah besar parameter dan bobot, menghasilkan ukuran yang cukup besar (misalnya beberapa ratus MB).

Banyak aplikasi memerlukan penyebaran contoh jaringan terlatih tertentu, berpotensi ke sejumlah besar perangkat, yang mungkin memiliki keterbatasan dalam hal daya pemrosesan dan memori (misalnya perangkat seluler atau kamera pintar), dan juga dalam hal bandwidth komunikasi.

Kasus penggunaan apa pun, di mana jaringan neural terlatih (atau pembaruannya) perlu diterapkan ke sejumlah perangkat sehingga mendapat manfaat dari standar untuk representasi terkompresi dari jaringan neural.

Mempertimbangkan fakta bahwa kompresi jaringan saraf cenderung memiliki komponen yang bergantung pada perangkat keras dan tidak bergantung pada perangkat keras, dokumen ini dirancang sebagai kotak peralatan teknologi kompresi.

Beberapa dari teknologi ini memerlukan representasi spesifik dalam format pertukaran (yaitu representasi jarang, kuantisasi adaptif), dan dengan demikian spesifikasi normatif untuk mewakili keluaran dari teknologi ini ditentukan.

Yang lain sama sekali tidak terwujud dalam representasi berseri (misalnya pemangkasan), namun, untuk yang terakhir, metadata yang diperlukan juga ditentukan.

Dokumen ini independen dari format pertukaran jaringan saraf tertentu, dan interoperabilitas dengan format umum dijelaskan dalam lampiran.

Dokumen ini dengan demikian mendefinisikan sintaksis tingkat tinggi yang menentukan elemen metadata yang diperlukan dan semantik terkait.

Dalam kasus di mana struktur data biner harus ditentukan (misalnya matriks yang didekomposisi), dokumen ini juga menentukan sintaks bitstream aktual dari masing-masing blok.

Lampiran dokumen menentukan persyaratan dan kendala representasi jaringan saraf terkompresi; sebagaimana didefinisikan dalam dokumen ini; dan bagaimana mereka diterapkan.

Lampiran :

  • A menentukan penerapan dokumen ini dengan Format Pertukaran Jaringan Neural (NNEF1), yang menentukan penggunaan NNEF untuk merepresentasikan topologi jaringan dalam bitstream jaringan saraf terkompresi.
  • B memberikan rekomendasi untuk implementasi dokumen ini dengan Open Neural Network Exchange Format (ONNX®)2, yang menentukan penggunaan ONNX untuk merepresentasikan topologi jaringan dalam bitstream jaringan neural terkompresi.
  • C memberikan rekomendasi untuk implementasi dokumen ini dengan format PyTorch®3, mendefinisikan referensi ke elemen PyTorch dalam deskripsi topologi jaringan bitstream jaringan neural terkompresi.
  • D memberikan rekomendasi untuk implementasi dokumen ini dengan format Tensorflow®4, mendefinisikan referensi ke elemen Tensorflow dalam deskripsi topologi jaringan bitstream jaringan neural terkompresi.
  • E memberikan rekomendasi untuk pengangkutan tensor yang dikompresi menurut dokumen ini dalam format wadah pihak ketiga.

Alat kompresi yang dijelaskan dalam dokumen ini telah dipilih dan dievaluasi untuk jaringan saraf yang digunakan dalam aplikasi untuk deskripsi, analisis, dan pemrosesan multimedia.

Namun, mereka mungkin berguna untuk kompresi jaringan saraf yang digunakan dalam aplikasi lain dan diterapkan pada jenis data lainnya.

Organisasi Internasional untuk Standardisasi (ISO) dan Komisi Elektroteknik Internasional (IEC) menarik perhatian pada fakta yang diklaim bahwa kepatuhan terhadap dokumen ini mungkin melibatkan penggunaan paten.

ISO dan IEC tidak mengambil posisi mengenai bukti, validitas dan ruang lingkup hak paten ini.

Pemegang hak paten ini telah meyakinkan ISO dan IEC bahwa dia bersedia untuk menegosiasikan lisensi berdasarkan syarat dan ketentuan yang wajar dan tidak diskriminatif dengan pemohon di seluruh dunia.

Dalam hal ini, pernyataan pemegang hak paten ini terdaftar pada ISO dan IEC.

Informasi dapat diperoleh dari basis data paten yang tersedia di www.iso.org/patents.

Perhatian tertuju pada kemungkinan bahwa beberapa elemen dari dokumen ini dapat menjadi subjek hak paten selain dari yang ada dalam basis data paten.

ISO dan IEC tidak bertanggung jawab untuk mengidentifikasi salah satu atau semua hak paten tersebut.

ISO/IEC 15938-17:2022 Klausa 1-3

1 Scope : Lingkup

Dokumen ini menetapkan Neural Network Coding (NNC) sebagai representasi terkompresi dari parameter/bobot jaringan saraf terlatih dan proses decoding untuk representasi terkompresi, melengkapi deskripsi topologi jaringan dalam format (pertukaran) yang ada untuk jaringan saraf.

Ini menetapkan kotak alat metode kompresi, menentukan (jika berlaku) elemen yang dihasilkan dari aliran bit terkompresi.

Dokumen ini tidak menentukan protokol lengkap untuk transmisi jaringan saraf, tetapi berfokus pada kompresi parameter jaringan.

Hanya format sintaksis, semantik, persyaratan proses decoding terkait, sparsifikasi parameter, metode transformasi parameter, kuantisasi parameter, metode pengkodean entropi, dan integrasi/pensinyalan dalam format pertukaran yang ada yang ditentukan, sedangkan hal-hal lain seperti pra-pemrosesan, pensinyalan sistem, dan multiplexing, pemulihan kehilangan data dan pasca-pemrosesan dianggap berada di luar cakupan dokumen ini.

Selain itu, langkah pemrosesan internal yang dilakukan dalam dekoder juga dianggap berada di luar cakupan dokumen ini; hanya perilaku keluaran yang dapat diamati secara eksternal yang diperlukan untuk menyesuaikan dengan spesifikasi dokumen ini.

2 Normative references :  Referensi normatif

Dokumen-dokumen berikut dirujuk dalam teks sedemikian rupa sehingga sebagian atau seluruh isinya merupakan persyaratan dari dokumen ini.

Untuk referensi bertanggal, hanya edisi yang dikutip yang berlaku. Untuk referensi yang tidak bertanggal, berlaku edisi terbaru dari dokumen referensi (termasuk amandemen).

  • ISO/IEC 10646, Information technology — Universal coded character set (UCS)
  • ISO/IEC 60559, Information technology — Microprocessor Systems — Floating-Point arithmetic
  • IETF RFC 1950, ZLIB Compressed Data Format Specification version 3.3, 1996
  • NNEF-v1.0.3, Neural Network Exchange Format, The Khronos NNEF Working Group, Version 1.0.3, 2020-06-12 (https://www.khronos.org/registry/NNEF/specs/1.0/nnef-1.0.3.pdf)

3 Terms and definitions : Istilah dan definisi

Untuk tujuan dokumen ini, istilah dan definisi berikut berlaku.

ISO dan IEC memelihara database terminologi untuk digunakan dalam standardisasi di alamat berikut:

3.1 aggregate NNR unit : satuan NNR agregat

Unit NNR yang membawa banyak unit NNR dalam muatannya

3.2 compressed neural network representation : representasi jaringan saraf terkompresi

representasi jaringan saraf dengan parameter model yang dikodekan menggunakan alat kompresi

3.3 decomposition : penguraian

transformasi untuk mengekspresikan tensor sebagai produk dari dua tensor

3.4 hyperparameter : hyperparameter

parameter yang nilainya digunakan untuk mengontrol proses pembelajaran

3.5 layer : lapisan

kumpulan node yang beroperasi bersama pada kedalaman tertentu dalam jaringan saraf

3.6 model parameter : parameter model

koefisien model jaringan saraf seperti bobot dan bias

3.7 NNR unit : satuan NN

struktur data untuk membawa data jaringan saraf (terkompresi atau tidak terkompresi) dan metadata terkait

3.8 pruning : pemangkasan

pengurangan parameter di (bagian dari) jaringan saraf

3.9 sparsification : sparsifikasi

peningkatan jumlah entri tensor bernilai nol

3.10 tensor : tensor

parameter model terkait pengelompokan struktur multidimensi

Daftar Pustaka atau Bibliography :

  • [1] OPEN NEURAL NETWORK EXCHANGE, VERSION 7, 2020-05-09 (https://github.com/onnx/onnx/blob/master/onnx/onnx.proto)
  • [2] PYTORCH, VERSION 1.5.1, 2020-10-22 (https://github.com/pytorch/pytorch/tree/v1.5.1)
  • [3] TENSORFLOW, VERSION 2.2.0, 2020-10-22 (https://github.com/tensorflow/tensorflow/tree/v2.2.0)

Keterangan :

  • 1 NNEF is the trademark of a product owned by The Khronos® Group. This information is given for the convenience of users of this document and does not constitute an endorsement by ISO/IEC of the product named.
  • 2 ONNX is the trademark of a product owned by LF PROJECTS, LLC. This information is given for the convenience of users of this document and does not constitute an endorsement by ISO/IEC of the product named.
  • 3 PyTorch is the trademark of a product supplied by Facebook, Inc.. This information is given for the convenience of users of this document and does not constitute an endorsement by ISO/IEC of the product named.
  • 4 TensorFlow is the trademark of a product supplied by Google LLC. This information is given for the convenience of users of this document and does not constitute an endorsement by ISO/IEC of the product named.

Penutup

Demikian artikel dari standarku.com mengenai Standar ISO/IEC 15938-17:2022.

Mohon saran dari pembaca untuk kelengkapan isi artikel ini, silahkan saran tersebut dapat disampaikan melalui kolom komentar.

Baca artikel lain :

Sumber referensi :

Leave a Comment