Mewarisi library C ke Wasm

Surma

Terkadang, Anda ingin menggunakan library yang hanya tersedia sebagai kode C atau C++. Biasanya, di sinilah Anda menyerah. Tidak lagi, karena sekarang kita memiliki Emscripten dan WebAssembly (atau Wasm).

Toolchain

Saya menetapkan sasaran untuk mempelajari cara mengompilasi beberapa kode C yang ada ke Wasm. Ada beberapa suara di sekitar backend Wasm LLVM, jadi saya mulai mempelajarinya. Meskipun Anda bisa mendapatkan program sederhana untuk dikompilasi dengan cara ini, ketika Anda ingin menggunakan library standar C atau bahkan mengompilasi beberapa file, Anda mungkin akan mengalami masalah. Hal ini membawa saya pada pelajaran utama yang saya pelajari:

Meskipun Emscripten digunakan sebagai compiler C-to-asm.js, compiler ini telah berkembang untuk menargetkan Wasm dan sedang dalam proses beralih ke backend LLVM resmi secara internal. Emscripten juga menyediakan implementasi library standar C yang kompatibel dengan Wasm. Gunakan Emscripten. WebGL melakukan banyak pekerjaan tersembunyi, mengemulasikan sistem file, menyediakan pengelolaan memori, menggabungkan OpenGL dengan WebGL — banyak hal yang sebenarnya tidak perlu Anda kembangkan sendiri.

Mungkin Anda terdengar khawatir jika ukuran aplikasi terlalu besar, tetapi saya khawatir — compiler Emscripten akan menghapus semua yang tidak diperlukan. Dalam eksperimen saya, modul Wasm yang dihasilkan berukuran sesuai untuk logika yang dikandungnya dan tim Emscripten dan WebAssembly sedang berupaya membuatnya lebih kecil lagi di masa mendatang.

Anda bisa mendapatkan Emscripten dengan mengikuti petunjuk di situs atau menggunakan Homebrew. Jika Anda penggemar perintah yang disimpan seperti saya dan tidak ingin menginstal sesuatu di sistem Anda hanya untuk mencoba WebAssembly, ada image Docker yang dikelola dengan baik dan dapat Anda gunakan sebagai gantinya:

    $ docker pull trzeci/emscripten
    $ docker run --rm -v $(pwd):/src trzeci/emscripten emcc <emcc options here>

Mengompilasi sesuatu yang sederhana

Mari kita ambil contoh yang hampir kanonis untuk menulis fungsi dalam C yang menghitung bilangan fibonacci ke-n:

    #include <emscripten.h>

    EMSCRIPTEN_KEEPALIVE
    int fib(int n) {
      if(n <= 0){
        return 0;
      }
      int i, t, a = 0, b = 1;
      for (i = 1; i < n; i++) {
        t = a + b;
        a = b;
        b = t;
      }
      return b;
    }

Jika Anda tahu C, fungsi itu sendiri seharusnya tidak terlalu mengejutkan. Meskipun tidak mengetahui C, tetapi mengetahui JavaScript, Anda diharapkan dapat memahami apa yang terjadi di sini.

emscripten.h adalah file header yang disediakan oleh Emscripten. Kita hanya memerlukannya agar memiliki akses ke makro EMSCRIPTEN_KEEPALIVE, tetapi menyediakan lebih banyak fungsi. Makro ini memberi tahu compiler untuk tidak menghapus fungsi meskipun tampaknya tidak digunakan. Jika kita menghilangkan makro tersebut, compiler akan mengoptimalkan fungsi tersebut — tidak ada yang menggunakannya.

Mari kita simpan semua itu dalam file bernama fib.c. Untuk mengubahnya menjadi file .wasm, kita harus beralih ke perintah compiler Emscripten emcc:

    $ emcc -O3 -s WASM=1 -s EXTRA_EXPORTED_RUNTIME_METHODS='["cwrap"]' fib.c

Mari kita bedah perintah ini. emcc adalah compiler Emscripten. fib.c adalah file C kami. Sejauh ini, hasilnya bagus. -s WASM=1 memberi tahu Emscripten untuk memberi kita file Wasm, bukan file asm.js. -s EXTRA_EXPORTED_RUNTIME_METHODS='["cwrap"]' memberi tahu compiler untuk membiarkan fungsi cwrap() tersedia di file JavaScript — selengkapnya tentang fungsi ini nanti. -O3 memberi tahu compiler untuk mengoptimalkan secara agresif. Anda dapat memilih jumlah yang lebih rendah untuk mengurangi waktu build, tetapi hal ini juga akan membuat paket yang dihasilkan lebih besar karena compiler mungkin tidak menghapus kode yang tidak digunakan.

Setelah menjalankan perintah, Anda akan mendapatkan file JavaScript yang disebut a.out.js dan file WebAssembly yang disebut a.out.wasm. File Wasm (atau "modul") berisi kode C yang telah dikompilasi dan seharusnya cukup kecil. File JavaScript menangani pemuatan dan inisialisasi modul Wasm serta menyediakan API yang lebih baik. Jika diperlukan, tindakan ini juga akan menangani penyiapan stack, heap, dan fungsionalitas lain yang biasanya diharapkan disediakan oleh sistem operasi saat menulis kode C. Dengan demikian, file JavaScript sedikit lebih besar, dengan berat 19 KB (~5 KB gzip'd).

Menjalankan sesuatu yang sederhana

Cara termudah untuk memuat dan menjalankan modul adalah menggunakan file JavaScript yang dihasilkan. Setelah memuat file tersebut, Anda akan memiliki Module global yang dapat digunakan. Gunakan cwrap untuk membuat fungsi native JavaScript yang menangani konversi parameter menjadi sesuatu yang ramah C dan memanggil fungsi gabungan. cwrap menggunakan nama fungsi, jenis nilai yang ditampilkan, dan jenis argumen sebagai argumen, dalam urutan tersebut:

    <script src="a.out.js"></script>
    <script>
      Module.onRuntimeInitialized = _ => {
        const fib = Module.cwrap('fib', 'number', ['number']);
        console.log(fib(12));
      };
    </script>

Jika menjalankan kode ini, Anda akan melihat "144" di konsol, yang merupakan angka Fibonacci ke-12.

Tujuan: Mengompilasi {i>library<i} C

Sampai sekarang, kode C yang telah kita tulis ditulis dengan mempertimbangkan Wasm. Namun, kasus penggunaan inti untuk WebAssembly adalah mengambil ekosistem library C yang ada dan memungkinkan developer menggunakannya di web. Library ini sering mengandalkan library standar C, sistem operasi, sistem file, dan hal-hal lainnya. Emscripten menyediakan sebagian besar fitur ini, meskipun ada beberapa batasan.

Mari kembali ke tujuan awal saya: mengompilasi encoder untuk WebP ke Wasm. Sumber untuk codec WebP ditulis dalam C dan tersedia di GitHub serta beberapa dokumentasi API lengkap. Itu adalah titik awal yang cukup baik.

    $ git clone https://github.com/webmproject/libwebp

Untuk memulai dengan sederhana, mari kita coba mengekspos WebPGetEncoderVersion() dari encode.h ke JavaScript dengan menulis file C yang disebut webp.c:

    #include "emscripten.h"
    #include "src/webp/encode.h"

    EMSCRIPTEN_KEEPALIVE
    int version() {
      return WebPGetEncoderVersion();
    }

Ini adalah program sederhana yang baik untuk menguji apakah kita bisa mendapatkan kode sumber libwebp untuk dikompilasi, karena kita tidak memerlukan parameter atau struktur data yang kompleks untuk memanggil fungsi ini.

Untuk mengompilasi program ini, kita perlu memberi tahu compiler tempat file header libwebp dapat ditemukan menggunakan flag -I dan juga meneruskan semua file C libwebp yang diperlukan. Saya akan jujur: Saya baru saja memberikan semua file C yang dapat saya temukan dan mengandalkan compiler untuk menghapus semua yang tidak diperlukan. Tampaknya berfungsi dengan baik.

    $ emcc -O3 -s WASM=1 -s EXTRA_EXPORTED_RUNTIME_METHODS='["cwrap"]' \
        -I libwebp \
        webp.c \
        libwebp/src/{dec,dsp,demux,enc,mux,utils}/*.c

Sekarang kita hanya memerlukan beberapa HTML dan JavaScript untuk memuat modul baru kita:

<script src="/a.out.js"></script>
<script>
  Module.onRuntimeInitialized = async (_) => {
    const api = {
      version: Module.cwrap('version', 'number', []),
    };
    console.log(api.version());
  };
</script>

Kita akan melihat nomor versi koreksi di output:

Screenshot konsol DevTools yang menunjukkan nomor versi yang benar.

Mendapatkan gambar dari JavaScript ke Wasm

Mendapatkan nomor versi encoder memang bagus, tetapi mengenkode gambar yang sebenarnya akan lebih mengesankan, bukan? Mari kita lakukan.

Pertanyaan pertama yang harus kita jawab adalah: Bagaimana cara memasukkan gambar ke area Wasm? Melihat API encoding libwebp, API ini mengharapkan array byte dalam RGB, RGBA, BGR, atau BGRA. Untungnya, Canvas API memiliki getImageData(), yang memberi kita Uint8ClampedArray yang berisi data gambar dalam RGBA:

async function loadImage(src) {
  // Load image
  const imgBlob = await fetch(src).then((resp) => resp.blob());
  const img = await createImageBitmap(imgBlob);
  // Make canvas same size as image
  const canvas = document.createElement('canvas');
  canvas.width = img.width;
  canvas.height = img.height;
  // Draw image onto canvas
  const ctx = canvas.getContext('2d');
  ctx.drawImage(img, 0, 0);
  return ctx.getImageData(0, 0, img.width, img.height);
}

Sekarang, kita "hanya" akan menyalin data dari halaman JavaScript ke halaman Wasm. Untuk itu, kita perlu mengekspos dua fungsi tambahan. Satu yang mengalokasikan memori untuk gambar di dalam area Wasm dan satu lagi yang mengosongkannya lagi:

    EMSCRIPTEN_KEEPALIVE
    uint8_t* create_buffer(int width, int height) {
      return malloc(width * height * 4 * sizeof(uint8_t));
    }

    EMSCRIPTEN_KEEPALIVE
    void destroy_buffer(uint8_t* p) {
      free(p);
    }

create_buffer mengalokasikan buffer untuk gambar RGBA — karenanya 4 byte per piksel. Pointer yang ditampilkan oleh malloc() adalah alamat sel memori pertama buffer tersebut. Saat pointer dikembalikan ke halaman JavaScript, hal tersebut hanya diperlakukan sebagai angka. Setelah mengekspos fungsi ke JavaScript menggunakan cwrap, kita dapat menggunakan angka tersebut untuk menemukan awal buffer dan menyalin data gambar.

const api = {
  version: Module.cwrap('version', 'number', []),
  create_buffer: Module.cwrap('create_buffer', 'number', ['number', 'number']),
  destroy_buffer: Module.cwrap('destroy_buffer', '', ['number']),
};

const image = await loadImage('/image.jpg');
const p = api.create_buffer(image.width, image.height);
Module.HEAP8.set(image.data, p);
// ... call encoder ...
api.destroy_buffer(p);

Grand Finale: Mengenkode gambar

Image kini tersedia di wilayah Wasm. Saatnya memanggil encoder WebP untuk melakukan tugasnya. Melihat dokumentasi WebP, WebPEncodeRGBA tampaknya sangat cocok. Fungsi ini membawa pointer ke gambar input dan dimensinya, serta opsi kualitas antara 0 dan 100. Contoh ini juga mengalokasikan buffer output untuk kita, yang harus kita kosongkan menggunakan WebPFree() setelah selesai dengan gambar WebP.

Hasil operasi encoding adalah buffering output dan panjangnya. Karena fungsi dalam C tidak dapat memiliki array sebagai jenis nilai yang ditampilkan (kecuali jika kita mengalokasikan memori secara dinamis), saya menggunakan array global statis. Saya tahu, bukan C yang bersih (bahkan, ini bergantung pada fakta bahwa pointer Wasm memiliki lebar 32-bit), tetapi untuk menjaga semuanya tetap sederhana, saya rasa ini adalah pintasan yang adil.

    int result[2];
    EMSCRIPTEN_KEEPALIVE
    void encode(uint8_t* img_in, int width, int height, float quality) {
      uint8_t* img_out;
      size_t size;

      size = WebPEncodeRGBA(img_in, width, height, width * 4, quality, &img_out);

      result[0] = (int)img_out;
      result[1] = size;
    }

    EMSCRIPTEN_KEEPALIVE
    void free_result(uint8_t* result) {
      WebPFree(result);
    }

    EMSCRIPTEN_KEEPALIVE
    int get_result_pointer() {
      return result[0];
    }

    EMSCRIPTEN_KEEPALIVE
    int get_result_size() {
      return result[1];
    }

Setelah menyiapkan semua itu, kita bisa memanggil fungsi encoding, mengambil pointer dan ukuran gambar, memasukkannya ke dalam buffer land JavaScript kita sendiri, dan melepaskan semua buffer Wasm-land yang telah kita alokasikan dalam proses tersebut.

    api.encode(p, image.width, image.height, 100);
    const resultPointer = api.get_result_pointer();
    const resultSize = api.get_result_size();
    const resultView = new Uint8Array(Module.HEAP8.buffer, resultPointer, resultSize);
    const result = new Uint8Array(resultView);
    api.free_result(resultPointer);

Bergantung pada ukuran gambar, Anda mungkin mengalami error saat Wasm tidak dapat menambah memori yang cukup untuk mengakomodasi gambar input dan output:

Screenshot konsol DevTools yang menampilkan error.

Untungnya, solusi untuk masalah ini ada dalam pesan error. Kita hanya perlu menambahkan -s ALLOW_MEMORY_GROWTH=1 ke perintah kompilasi.

Seperti itulah. Kita telah mengompilasi encoder WebP dan mentranskode gambar JPEG ke WebP. Untuk membuktikan bahwa perintah ini berhasil, kita dapat mengubah buffer hasil menjadi blob dan menggunakannya pada elemen <img>:

const blob = new Blob([result], { type: 'image/webp' });
const blobURL = URL.createObjectURL(blob);
const img = document.createElement('img');
img.src = blobURL;
document.body.appendChild(img);

Lihatlah, hebatnya gambar WebP baru!

Panel jaringan DevTools dan gambar yang dihasilkan.

Kesimpulan

Memastikan library C berfungsi di browser bukanlah hal yang mudah, tetapi setelah Anda memahami keseluruhan proses dan cara kerja alur data, hal ini menjadi lebih mudah dan hasilnya bisa sangat luar biasa.

WebAssembly membuka banyak kemungkinan baru di web untuk pemrosesan, penghitungan angka, dan game. Perlu diingat bahwa Wasm bukanlah solusi ajaib yang harus diterapkan ke segala hal, tetapi saat Anda mengalami salah satu bottleneck tersebut, Wasm dapat menjadi alat yang sangat membantu.

Konten bonus: Menjalankan sesuatu yang sederhana dengan cara yang sulit

Jika Anda ingin mencoba dan menghindari file JavaScript yang dihasilkan, Anda mungkin dapat melakukannya. Mari kita kembali ke contoh Fibonacci. Untuk memuat dan menjalankannya sendiri, kita bisa melakukan hal berikut:

<!DOCTYPE html>
<script>
  (async function () {
    const imports = {
      env: {
        memory: new WebAssembly.Memory({ initial: 1 }),
        STACKTOP: 0,
      },
    };
    const { instance } = await WebAssembly.instantiateStreaming(
      fetch('/a.out.wasm'),
      imports,
    );
    console.log(instance.exports._fib(12));
  })();
</script>

Modul WebAssembly yang telah dibuat oleh Emscripten tidak memiliki memori untuk digunakan kecuali jika Anda memberinya memori. Cara Anda menyediakan modul Wasm dengan apa pun adalah dengan menggunakan objek imports — parameter kedua dari fungsi instantiateStreaming. Modul Wasm dapat mengakses semua yang ada di dalam objek impor, tetapi tidak ada hal lain di luarnya. Secara umum, modul yang dikompilasi oleh Emscripting mengharapkan beberapa hal dari lingkungan JavaScript pemuatan:

  • Pertama, ada env.memory. Modul Wasm tidak mengetahui dunia di luar, sehingga perlu mendapatkan beberapa memori untuk digunakan. Masukkan WebAssembly.Memory. Ini mewakili bagian memori linear (dapat diperluas secara opsional). Parameter ukuran berada dalam "dalam unit halaman WebAssembly", yang berarti kode di atas mengalokasikan 1 halaman memori, dengan setiap halaman berukuran 64 KiB. Tanpa menyediakan opsi maximum, secara teoritis memori tidak terikat pada pertumbuhan (saat ini Chrome memiliki batas pasti sebesar 2 GB). Sebagian besar modul WebAssembly tidak perlu menetapkan batas maksimum.
  • env.STACKTOP menentukan tempat stack seharusnya mulai berkembang. Stack ini diperlukan untuk melakukan panggilan fungsi dan mengalokasikan memori untuk variabel lokal. Karena kita tidak melakukan pelanggaran pengelolaan memori dinamis dalam program Fibonacci yang kecil, kita hanya bisa menggunakan seluruh memori sebagai stack, sehingga STACKTOP = 0.