Artikel ini menyajikan metodologi Distilasi Sadar-Batas Keputusan yang baru untuk Pembelajaran Inkremental-Instans yang tidak memerlukan akses ke data lama.Artikel ini menyajikan metodologi Distilasi Sadar-Batas Keputusan yang baru untuk Pembelajaran Inkremental-Instans yang tidak memerlukan akses ke data lama.

Sintesis Gambar Medis: S-CycleGAN untuk RUSS dan Segmentasi

Abstrak dan 1 Pendahuluan

  1. Karya terkait

  2. Pengaturan masalah

  3. Metodologi

    4.1. Distilasi berbasis batas keputusan

    4.2. Konsolidasi pengetahuan

  4. Hasil eksperimen dan 5.1. Pengaturan Eksperimen

    5.2. Perbandingan dengan metode SOTA

    5.3. Studi ablasi

  5. Kesimpulan dan pekerjaan masa depan dan Referensi

    \

Materi Tambahan

  1. Detail analisis teoretis pada mekanisme KCEMA dalam IIL
  2. Ikhtisar algoritma
  3. Detail dataset
  4. Detail implementasi
  5. Visualisasi gambar input berdebu
  6. Hasil eksperimen lebih lanjut

4. Metodologi

Seperti ditunjukkan pada Gbr. 2 (a), terjadinya pergeseran konsep dalam pengamatan baru menyebabkan munculnya sampel luar yang gagal ditangani oleh model yang ada. IIL baru harus memperluas batas keputusan ke sampel luar ini serta menghindari pelupaan katastrofik (CF) pada batas lama. Metode konvensional berbasis distilasi pengetahuan mengandalkan beberapa contoh yang dipertahankan [22] atau data tambahan [33, 34] untuk menahan CF. Namun, dalam pengaturan IIL yang diusulkan, kita tidak memiliki akses ke data lama selain pengamatan baru. Distilasi berdasarkan pengamatan baru ini bertentangan dengan pembelajaran pengetahuan baru jika tidak ada parameter baru yang ditambahkan ke model. Untuk menyeimbangkan antara belajar dan tidak melupakan, kami mengusulkan metode distilasi berbasis batas keputusan yang tidak memerlukan data lama. Selama pembelajaran, pengetahuan baru yang dipelajari oleh siswa secara berkala dikonsolidasikan kembali ke model guru, yang membawa generalisasi lebih baik dan merupakan upaya perintis di bidang ini.

\ Gambar 3. Perbandingan antara (a) metode berbasis distilasi sebelumnya yang melakukan inferensi dengan model siswa (S) dan (b) distilasi berbasis batas keputusan (DBD) yang diusulkan dengan konsolidasi pengetahuan (KC). Kami menggunakan model guru (T) untuk inferensi.

\

:::info Penulis:

(1) Qiang Nie, Universitas Sains dan Teknologi Hong Kong (Guangzhou);

(2) Weifu Fu, Tencent Youtu Lab;

(3) Yuhuan Lin, Tencent Youtu Lab;

(4) Jialin Li, Tencent Youtu Lab;

(5) Yifeng Zhou, Tencent Youtu Lab;

(6) Yong Liu, Tencent Youtu Lab;

(7) Qiang Nie, Universitas Sains dan Teknologi Hong Kong (Guangzhou);

(8) Chengjie Wang, Tencent Youtu Lab.

:::


:::info Makalah ini tersedia di arxiv di bawah lisensi CC BY-NC-ND 4.0 Deed (Attribution-Noncommercial-Noderivs 4.0 International).

:::

\

Penafian: Artikel yang diterbitkan ulang di situs web ini bersumber dari platform publik dan disediakan hanya sebagai informasi. Artikel tersebut belum tentu mencerminkan pandangan MEXC. Seluruh hak cipta tetap dimiliki oleh penulis aslinya. Jika Anda meyakini bahwa ada konten yang melanggar hak pihak ketiga, silakan hubungi [email protected] agar konten tersebut dihapus. MEXC tidak menjamin keakuratan, kelengkapan, atau keaktualan konten dan tidak bertanggung jawab atas tindakan apa pun yang dilakukan berdasarkan informasi yang diberikan. Konten tersebut bukan merupakan saran keuangan, hukum, atau profesional lainnya, juga tidak boleh dianggap sebagai rekomendasi atau dukungan oleh MEXC.