Vraag 4: Leg meer uit over op labels gebaseerde transferleercategorisering.

Antwoord: Zoals we eerder kort hebben besproken, kan Transfer Learning op basis van labelsetting als volgt worden geclassificeerd:

• Transductief overdrachtsleren
• Inductief overdrachtsleren
• Leren zonder toezicht

Afbeelding 6: Grafische weergave van op labels gebaseerd transferleren (Bron: Arxiv)

a) Inductief overdrachtsleren: Hierin zijn de bron- en doeldomeinen hetzelfde. De bron- en doeltaken verschillen echter nog steeds van elkaar.

Het model gebruikt inductieve vooroordelen van de brontaak om de prestaties van de doeltaak te helpen verbeteren.

Afhankelijk van het feit of het brontaakdomein al dan niet gelabelde gegevens heeft, kan inductief transferleren verder worden geclassificeerd als multitaskleren en autodidactisch leren (sequentieel leren).

Afbeelding 7: Soorten inductieve overdracht van leren (Bron: Arxiv)

b) Transductief overdrachtsleren: Hierin hebben de bron- en doeltaken overeenkomsten. De overeenkomstige domeinen zijn echter verschillend.

Hierin heeft het brondomein veel gelabelde gegevens, terwijl het doeldomein geen gelabelde gegevens heeft, of als dat wel het geval is, zijn er maar heel weinig gelabelde voorbeelden.

Transductief overdrachtsleren kan verder worden ingedeeld in domeinaanpassing en meertalig leren.

Figuur 8: Soorten Transductief Transferleren (Bron: Arxiv)

c) Overdrachtsleren zonder toezicht:

Unsupervised learning verwijst naar het gebruik van AI-algoritmen om patronen in datasets te vinden, inclusief datapunten die noch geclassificeerd noch gelabeld zijn.

Unsupervised Transfer Learning lijkt sterk op Inductive Transfer Learning.

Ondanks de gelijkenis van het bron- en doeldomein, verschillen de bron- en doeltaken.

Vraag 5: Wat is sequentiële overdracht leren? Leg de typen uit.

Antwoord: Sequential Transfer Learning is het proces van het achtereenvolgens leren van meerdere taken. Laten we zeggen dat de kennis moet worden overgedragen naar meerdere taken (T₁, T₂, …. T_n). Bij elke tijdstap wordt een bepaalde taak aangeleerd. In tegenstelling tot leren met meerdere taken, is het langzamer maar heeft het enkele voordelen, vooral als alle taken niet beschikbaar zijn tijdens de training.

Sequentieel overdrachtsleren kan verder worden onderverdeeld in de volgende vier categorieën:

1. Scherpstellen
2. Adaptermodules
3. Functie-gebaseerd
4. Nul schot

1. Fijnafstemming: Een gegeven vooraf getraind model (M) met gewichten W wordt gebruikt om een ​​nieuwe functie f te leren die de parameters f(W) = W' afbeeldt. De parameters kunnen op alle lagen worden gewijzigd of slechts op een beperkt aantal. Bovendien kan het leertempo voor de verschillende lagen verschillend zijn.

Het verfijnen van een vooraf getraind model op een enorme semi-gerelateerde dataset bleek een eenvoudige en effectieve aanpak voor veel problemen.

2. Adaptermodules: Een bepaald vooraf getraind model met gewichten W wordt geïnitialiseerd met een nieuwe reeks parameters die kleiner zijn dan W.

3. Functiegebaseerd: Het richt zich op het leren van enkele representaties op verschillende niveaus, bijvoorbeeld karakter, woord,
insluiting van zinnen of alinea's. De set inbeddingen (E) van model M blijft ongewijzigd.

4. Nulschot: Gegeven een voorgetraind model M met W, wordt er geen trainingsprocedure toegepast om nieuwe parameters te optimaliseren/leren.

Vraag 6: Wat is multitasken leren?

Antwoord: Multi-Task Learning is het proces waarbij meerdere taken tegelijkertijd worden geleerd. Voor een bepaald voorgetraind model M wordt het leren bijvoorbeeld overgebracht naar meerdere taken (T₁, T₂, · · ·, T_n).

Figuur 9: Leren met meerdere taken (Bron: Auteur)

Vraag 7: Wat is domeinaanpassing?

Antwoord: Domeinaanpassing is het aanpassen van de brontaak aan een nieuw doeldomein. Dit wordt meestal gebruikt wanneer we willen dat het model een andere gegevensdistributie leert in het doeldomein. Er kan bijvoorbeeld een review worden geschreven over ziekenhuizen in het eerste domein (brondomein) en over klinieken in het tweede domein (doeldomein).

Domeinaanpassing is gunstig wanneer de nieuwe trainingstaak een andere verdeling heeft of wanneer we zeer weinig gegevens hebben.

Afbeelding 10: diagram dat de domeinaanpassing illustreert waarbij de brontaak met een bepaalde gegevensdistributie wordt aangepast aan het doeldomein van verschillende gegevensdistributie (Bron: auteur)

Vraag 8: Wat betekent meertalig leren?

Antwoord: Cross-lingual learning past de brontaak aan een andere taal in het doeldomein aan. Dit is gunstig wanneer we een taal met veel middelen gebruiken om overeenkomstige taken te leren in een taalomgeving met weinig middelen. Een model dat is getraind voor de Spaanse taal kan bijvoorbeeld worden afgestemd op de dataset in de Franse taal, wat geen positieve overdracht garandeert.

Afbeelding 11: diagram dat meertalig leren illustreert  (Bron: auteur)

Vraag 9: Verbetert overdrachtsleren altijd de resultaten?

Antwoord: Nee. Soms heeft de overdrachtsmethode een negatieve invloed op de uitvoering van de nieuwe doeltaak, een zogenaamde "Negatieve overdracht.” Dit gebeurt meestal wanneer de bron- en doeltaken niet vergelijkbaar genoeg zijn, waardoor de eerste trainingsronde erg ver weg is.

Algoritmen komen niet altijd overeen met wat we als vergelijkbaar beschouwen, waardoor het een uitdaging is om de grondbeginselen en normen te begrijpen van welk type training voldoende is.

Daarom is een van de belangrijkste uitdagingen bij het werken met de overdrachtsleermethode het zorgen voor een positieve overdracht tussen gerelateerde taken en het voorkomen van de negatieve overdracht tussen minder gerelateerde taken.

Leren fietsen kan ons bijvoorbeeld niet helpen om snel viool te leren spelen.

Figuur 11: Schematische weergave van kennisoverdracht tussen niet-gerelateerde domeinen/taken

Bovendien garandeert de gelijkenis tussen de domeinen niet dat de kennisoverdracht het leren zal vergemakkelijken. Soms kunnen de overeenkomsten tussen de domeinen bedrieglijk zijn.

Ondanks dat Spaans en Frans bijvoorbeeld neolatijnse talen zijn met een hechte verwantschap, kunnen mensen die Spaans leren moeite hebben met het leren van Frans, zoals het gebruik van de verkeerde woordenschat of vervoeging. Dit gebeurt omdat het leren van de woordvorming, het gebruik, de uitspraak, de vervoeging, enz. in het Frans kan worden belemmerd door eerdere succesvolle vertrouwdheid met de taal in het Spaans.

Vraag 10: Wat moeten we doen als we de doeldataset hebben die lijkt op de basisnetwerkdataset?

Antwoord: Het hangt er dus van af of de doeldataset klein of groot is.

Zaak 1:De doeldataset is klein + vergelijkbaar met de basisnetwerkdataset: aangezien de trainingsdataset klein is, kan het vooraf getrainde netwerk worden afgestemd op de doeldataset. Dit kan echter leiden tot overfitting. Bovendien kan de doeldataset ook verschillende klassen hebben, waardoor het aantal klassen in de doeltaak kan veranderen. In dergelijke gevallen worden een of twee volledig verbonden lagen vanaf het einde verwijderd en wordt een nieuwe volledig verbonden laag toegevoegd die voldoet aan het aantal nieuwe klassen. Nu worden alleen deze nieuw toegevoegde lagen getraind en de rest van het model is bevroren.

Zaak 2:De doeldataset is enorm + vergelijkbaar met de dataset van het basisnetwerk: aangezien we voldoende gegevens tot onze beschikking hebben, wordt de laatste volledig verbonden laag verwijderd en wordt een nieuwe volledig verbonden laag toegevoegd met het juiste aantal klassen. Nu wordt het hele model getraind op de doeldataset. Dit zorgt ervoor dat het model wordt afgestemd met behoud van dezelfde architectuur op een nieuwe grote dataset (doeldataset).

Afbeelding 12: diagram dat verschillende scenario's illustreert wanneer de doeldataset vergelijkbaar is met de dataset van het basisnetwerk

Vraag 11: Wat moeten we doen als we een doeldataset hebben die verschilt van een basisnetwerkdataset?

Antwoord: Nogmaals, het hangt ervan af of de doeldataset klein of groot is.

Zaak 1: Het doelwit dataset is klein + verschilt van de dataset van het basisnetwerk: Aangezien de doeldataset anders is, zal het niet helpen om gebruik te maken van de hoogwaardige functies van het vooraf getrainde model. In plaats daarvan moeten de meeste lagen vanaf het einde in een vooraf getraind model worden verwijderd, en vervolgens moeten nieuwe lagen worden toegevoegd die voldoen aan het aantal klassen in de nieuwe (dwz doel) dataset. Op deze manier kunnen de functies op laag niveau van de vooraf getrainde modellen worden benut en kan de rest van de lagen worden getraind om in de nieuwe dataset te passen. Soms is het nuttig om het hele netwerk te trainen na het toevoegen van een nieuwe laag aan het einde.

Zaak 2: De doeldataset is enorm + verschilt van de basisnetwerkdataset: Aangezien de doeldataset groot is en verschilt van het brondomein/de brontaak, zou de optimale aanpak zijn om de laatste lagen uit het vooraf getrainde model te verwijderen en nieuwe lagen met het juiste aantal klassen toe te voegen, waarna het hele netwerk moet worden getraind zonder een laag te bevriezen.

Vraag 12: Welke belangrijke zaken moeten worden overwogen tijdens overdrachtsleren?

Antwoord: Tijdens het proces van transferleren moeten de volgende kernvragen worden beantwoord:

Afbeelding 13: Belangrijkste zaken waarmee rekening moet worden gehouden tijdens het overdrachtsleren

Wat over te dragen: Dit is de eerste en meest cruciale stap in het hele proces. Om de doeltaak effectiever te maken, moet worden bepaald welk deel van de kennis bronspecifiek is en wat de bron en het doel met elkaar gemeen hebben.

Wanneer overstappen: Zoals we hebben besproken, vermindert kennisoverdracht soms de prestatie van de doeltaak (ook wel negatieve overdracht genoemd). Dit gebeurt meestal wanneer de bron- en doeldomeinen/taken niet vergelijkbaar zijn. We moeten ernaar streven om overdrachtsleren zo te gebruiken dat het de prestatie van de doeltaak verbetert en niet verslechtert. Daarom moet goed worden overwogen wanneer wel en wanneer niet moet worden overgedragen.

Hoe over te zetten: Als het wat en hoe is bepaald, schatten we in hoe we de kennis over domeinen/taken kunnen overdragen. Dit omvat het aanpassen van de bestaande algoritmen en verschillende technieken.

Ten slotte moet de invoer van het model dezelfde grootte hebben waarmee het in de eerste plaats is getraind. Als dat niet zo is, moet er een voorbewerkingsstap worden toegevoegd om de invoer te verkleinen.