KI Perzeptron - Versionsgeschichte

Chris T. Ludwig: /* Demonstrator */

2026-08-31T18:52:01Z

Demonstrator

← Nächstältere Version		Version vom 31. August 2026, 20:52 Uhr
Zeile 103:		Zeile 103:
	=Demonstrator=		=Demonstrator=

	Zur Verdeutlichung habe ich mal einen Demonstrator bei ChatGPT in Auftrag gegeben. [https://tippvomtibb.de/KI_Progs/perzeption_training_v3.html Perception ~~Simulator~~]		Zur Verdeutlichung habe ich mal einen Demonstrator bei ChatGPT in Auftrag gegeben. [https://tippvomtibb.de/KI_Progs/perzeption_training_v3.html Perception Demonstrator]

	Im Simulator kann noch die Lernrate eingestellt.		Im Simulator kann noch die Lernrate eingestellt.

Chris T. Ludwig: /* Perzeptron */

2026-08-31T18:51:19Z

Perzeptron

← Nächstältere Version		Version vom 31. August 2026, 20:51 Uhr
Zeile 25:		Zeile 25:
	Selbst das simple "2-Mitarbeiter-Beispiel" in o. g. Buch ist mir zwar klar, aber brachte mich nicht weiter.		Selbst das simple "2-Mitarbeiter-Beispiel" in o. g. Buch ist mir zwar klar, aber brachte mich nicht weiter.

	~~-----~~		==Faktencheck==

	Erst durch folgende Informationen und Annahmen konnte ich mich schrittweise einem tieferen Verstaendnis naehern.		Erst durch folgende Informationen und Annahmen konnte ich mich schrittweise einem tieferen Verstaendnis naehern.
Zeile 57:		Zeile 57:
	Persoenliche Analogie: Die Einsatzfrage von H und ReLU gegen sig und tanh erinnert mich so ein wenig an die Daseinsberechtigung der Fuzzy Logic. Damals hat man auch versucht Regelprobleme dadruch besser zu loesen, indem man nicht eine harte 0/1 Schwelle z. B. als Stellgroesze benutzte, sondern auch Werte zwischen 0 und 1 zuliesz. Die Berechnung geschah damals u.a. ressourcenschonend mit Lookup-Tables.		Persoenliche Analogie: Die Einsatzfrage von H und ReLU gegen sig und tanh erinnert mich so ein wenig an die Daseinsberechtigung der Fuzzy Logic. Damals hat man auch versucht Regelprobleme dadruch besser zu loesen, indem man nicht eine harte 0/1 Schwelle z. B. als Stellgroesze benutzte, sondern auch Werte zwischen 0 und 1 zuliesz. Die Berechnung geschah damals u.a. ressourcenschonend mit Lookup-Tables.

	-~~----~~		==Simpel-Beispiel==

	Funktionsweise des Neuron (Perzeptron) am Beispiel eines binaeren Eingangs und eines binaeren Ausgangs.		Funktionsweise des Neuron (Perzeptron) am Beispiel eines binaeren Eingangs und eines binaeren Ausgangs. Dies ist wohl das simpelste Beispiel, das man finden kann. Es hat aber enormes Anschauungspotenzial.

	Aus einer 1 am Eingang (x) folgt am Ausgang (y) eine 1.		Aus einer 1 am Eingang (x) folgt am Ausgang (y) eine 1.

Chris T. Ludwig am 31. August 2026 um 18:47 Uhr

2026-08-31T18:47:53Z

← Nächstältere Version		Version vom 31. August 2026, 20:47 Uhr
Zeile 55:		Zeile 55:
	Heaviside und ReLU sind rechnerisch besonders einfach auszuwerten. Sigmoid und Tanh benötigen dagegen aufwendigere mathematische Operationen.		Heaviside und ReLU sind rechnerisch besonders einfach auszuwerten. Sigmoid und Tanh benötigen dagegen aufwendigere mathematische Operationen.

	Persoenliche Analogie: Die Einsatzfrage von H und ReLU gegen sig und tanh erinnert mich so ein wenig an die Daseinsberechtigung der Fuzzy Logic. Damals hat man auch versucht Regelprobleme dadruch besser zu loesen, indem man nicht eine harte 0/1 Schwelle z. B. als Stellgroesze benutzte, sondern auch Werte zwischen 0 und 1 ~~zulies~~. Die Berechnung geschah damals u.a. ~~resourcenschonend~~ mit Lookup-Tables.		Persoenliche Analogie: Die Einsatzfrage von H und ReLU gegen sig und tanh erinnert mich so ein wenig an die Daseinsberechtigung der Fuzzy Logic. Damals hat man auch versucht Regelprobleme dadruch besser zu loesen, indem man nicht eine harte 0/1 Schwelle z. B. als Stellgroesze benutzte, sondern auch Werte zwischen 0 und 1 zuliesz. Die Berechnung geschah damals u.a. ressourcenschonend mit Lookup-Tables.

	-----		-----

Chris T. Ludwig: /* Perzeptron */

2026-08-31T18:45:28Z

Perzeptron

← Nächstältere Version		Version vom 31. August 2026, 20:45 Uhr
Zeile 19:		Zeile 19:
	Dann kommt noch zu allem Ueberfluss z. B. im Buch "Neuronale Netz programmieren mit Python" Steinwendner/Schwaiger 3. Auflage S.35 hinzu, dass dort nach meinem Verstaendnis in Abb. 1.8/1.9 Synapsen und Dendriten in ihrer Bedeutung vertauscht wurden.		Dann kommt noch zu allem Ueberfluss z. B. im Buch "Neuronale Netz programmieren mit Python" Steinwendner/Schwaiger 3. Auflage S.35 hinzu, dass dort nach meinem Verstaendnis in Abb. 1.8/1.9 Synapsen und Dendriten in ihrer Bedeutung vertauscht wurden.

	Die Synapsen sind für mich, um in der Analogie zu bleiben, die Ausgaenge (Mehrzahl!) eines Neurons und die Gewichtung steckt wohl eher im Synaptischen Spalt als in den Dendriten.		Die Synapsen sind für mich, um in der Analogie zu bleiben, die Ausgaenge (Mehrzahl! (Beim Perzeptron nur einer.)) eines Neurons und die Gewichtung steckt wohl eher im Synaptischen Spalt als in den Dendriten.

	Trotz aller Ueberlegungen habe ich doch viele Gedanken wieder verworfen, da sie fuer mich einfach nicht hilfreich waren ein Verstaendnis des mathematischen Abbildes zu begreifen.		Trotz aller Ueberlegungen habe ich doch viele Gedanken wieder verworfen, da sie fuer mich einfach nicht hilfreich waren ein Verstaendnis des mathematischen Abbildes zu begreifen.

Chris T. Ludwig: /* Perzeptron */

2026-08-31T18:43:49Z

Perzeptron

← Nächstältere Version		Version vom 31. August 2026, 20:43 Uhr
Zeile 11:		Zeile 11:
	=Perzeptron=		=Perzeptron=

	Das binaere Perzeptron als idealer Einstieg in ~~Das~~ Verstaendnis Neuronaler Netze.		Das binaere Perzeptron als idealer Einstieg in das Verstaendnis Neuronaler Netze.

	Lange habe ich in ~~Büchern~~ zur KI auf ein Beispiel gewartet, bis ich eine eigene Vorstellung davon entwickeln konnte, wie man vom biologischen Aufbau eines Neurons zum grundlegenden, technischen Aufbau und dem mathematischen Modell gelangt.		Lange habe ich in Buechern zur KI auf ein Beispiel gewartet, bis ich eine eigene Vorstellung davon entwickeln konnte, wie man vom biologischen Aufbau eines Neurons zum grundlegenden, technischen Aufbau und dem mathematischen Modell gelangt.

	[[Datei:Neuron und Synapse Signalübertragung.png\|500px\|alternativtext=Neuron und Synapse Signalübertragung (KI generierter Inhalt)\|Neuron und Synapse Signalübertragung (KI generierter Inhalt)]][[Datei:NeuronSchema.png\|500px\|alternativtext=NeuronSchema\|NeuronSchema]]		[[Datei:Neuron und Synapse Signalübertragung.png\|500px\|alternativtext=Neuron und Synapse Signalübertragung (KI generierter Inhalt)\|Neuron und Synapse Signalübertragung (KI generierter Inhalt)]][[Datei:NeuronSchema.png\|500px\|alternativtext=NeuronSchema\|NeuronSchema]]

Chris T. Ludwig: /* Demonstrator */

2026-08-31T18:40:45Z

Demonstrator

← Nächstältere Version		Version vom 31. August 2026, 20:40 Uhr
Zeile 160:		Zeile 160:
	Für die grafische Darstellung kann man es besonders schoen so formulieren:		Für die grafische Darstellung kann man es besonders schoen so formulieren:

	Die Lernrate (\eta) bestimmt, wie stark die Netzeingabefunktion (z=wx+b) bei einem Trainingsfehler verschoben bzw. in ihrer Steigung verändert wird.		Die Lernrate (<math>\eta</math>) bestimmt, wie stark die Netzeingabefunktion (z=wx+b) bei einem Trainingsfehler verschoben bzw. in ihrer Steigung verändert wird.

	Ein wichtiger Sonderfall im Beispiel ist (x=0). Dann gilt		Ein wichtiger Sonderfall im Beispiel ist (x=0). Dann gilt

Chris T. Ludwig: /* Demonstrator */

2026-08-31T18:32:05Z

Demonstrator

← Nächstältere Version		Version vom 31. August 2026, 20:32 Uhr
Zeile 124:		Zeile 124:
	<math display="block"> z(x)=wx+b </math>		<math display="block"> z(x)=wx+b </math>

	Die Lernrate bestimmt also, wie weit diese Gerade bei einem Trainingsschritt verändert wird.		Die Lernrate bestimmt also, wie weit diese Gerade bei einem Trainingsschritt verändert wird. (Delta-Regel)

	Bei einem Fehler beeinflusst		Bei einem Fehler beeinflusst
Zeile 156:		Zeile 156:
	<math display="block"> \Delta w=1. </math>		<math display="block"> \Delta w=1. </math>

	Je groeszer die Lernrate, desto ~~größer~~ sind also die einzelnen Korrekturschritte.		Je groeszer die Lernrate, desto groeszer sind also die einzelnen Korrekturschritte.

	Für ~~deine~~ grafische Darstellung kann man es besonders ~~schön~~ so formulieren:		Für die grafische Darstellung kann man es besonders schoen so formulieren:

	Die Lernrate (\eta) bestimmt, wie stark die Netzeingabefunktion (z=wx+b) bei einem Trainingsfehler verschoben bzw. in ihrer Steigung verändert wird.		Die Lernrate (\eta) bestimmt, wie stark die Netzeingabefunktion (z=wx+b) bei einem Trainingsfehler verschoben bzw. in ihrer Steigung verändert wird.

	Ein wichtiger Sonderfall ~~in deinem~~ Beispiel ist (x=0). Dann gilt		Ein wichtiger Sonderfall im Beispiel ist (x=0). Dann gilt

	<math display="block"> \Delta w=\eta e\cdot0=0. </math>		<math display="block"> \Delta w=\eta e\cdot0=0. </math>

	Das Gewicht kann sich also ~~überhaupt~~ nicht ~~ändern~~. Nur der Bias wird angepasst. Bei (x=1) ~~können~~ dagegen sowohl Gewicht als auch Bias ~~verändert~~ werden.		Das Gewicht kann sich also ueberhaupt nicht aendern. Nur der Bias wird angepasst. Bei (x=1) koennen dagegen sowohl Gewicht als auch Bias veraendert werden.

	Genau dieser Effekt ist bei dem ~~Äquivalenz~~-/Negations-Beispiel didaktisch sehr interessant.		Genau dieser Effekt ist bei dem Aequivalenz-/Negations-Beispiel didaktisch sehr interessant.

	=Skalierung der Ueberlegung=		=Skalierung der Ueberlegung=

Chris T. Ludwig: /* Perzeptron */

2026-08-31T18:30:09Z

Perzeptron

← Nächstältere Version		Version vom 31. August 2026, 20:30 Uhr
Zeile 35:		Zeile 35:
	* Der Ausgang y kann eine beliebig Groesze/Zahl sein. y ∈ ℝ Das ist zwar selten aber moeglich.		* Der Ausgang y kann eine beliebig Groesze/Zahl sein. y ∈ ℝ Das ist zwar selten aber moeglich.
	* Unterschieden wird am Ausgang		* Unterschieden wird am Ausgang
	** y (ohne Dach): Der ~~tatsächliche~~, echte Wert (die „Ground Truth“ oder das reale Label).		** y (ohne Dach): Der tatsaechliche, echte Wert (die „Ground Truth“ oder das reale Label).
	**ŷ (mit Dach): Der von dem Modell vorhergesagte oder ~~geschätzte~~ Wert.		**ŷ (mit Dach): Der von dem Modell vorhergesagte oder geschaetzte Wert.
	* Ein Bias b kann eine beliebige Groesze/Zahl annehmen. b ∈ ℝ. Das deutsche Wort "Voreingenommenheit" ist hier wenig hilfreich. Ich kenne den Begriff hauptsaechlich als (DC-)Offset, also eine Spannung die den Pegel eines Eingangssignals nach "oben" oder nach "unten" verschiebt.		* Ein Bias b kann eine beliebige Groesze/Zahl annehmen. b ∈ ℝ. Das deutsche Wort "Voreingenommenheit" ist hier wenig hilfreich. Ich kenne den Begriff hauptsaechlich als (DC-)Offset, also eine Spannung die den Pegel eines Eingangssignals nach "oben" oder nach "unten" verschiebt.
	* Das "Lernen" eines Neurons reduziert sich auf die (automatische) Bestimmung von w und b.		* Das "Lernen" eines Neurons reduziert sich auf die (automatische) Bestimmung von w und b.

Chris T. Ludwig: /* Perzeptron */

2026-08-31T18:24:51Z

Perzeptron

← Nächstältere Version		Version vom 31. August 2026, 20:24 Uhr
Zeile 100:		Zeile 100:

	Bei der Negation kehren sich die Verhaeltnisse um. Für x=0 muss z>=0 und fuer x=1 muss z<0 gelten. Die Gerade benoetigt deshalb eine negative Steigung w<0 und muss die Entscheidungsschwelle z=0 zwischen x=0 und x=1 schneiden.		Bei der Negation kehren sich die Verhaeltnisse um. Für x=0 muss z>=0 und fuer x=1 muss z<0 gelten. Die Gerade benoetigt deshalb eine negative Steigung w<0 und muss die Entscheidungsschwelle z=0 zwischen x=0 und x=1 schneiden.

			=Demonstrator=

	Zur Verdeutlichung habe ich mal einen Demonstrator bei ChatGPT in Auftrag gegeben. [https://tippvomtibb.de/KI_Progs/perzeption_training_v3.html Perception Simulator]		Zur Verdeutlichung habe ich mal einen Demonstrator bei ChatGPT in Auftrag gegeben. [https://tippvomtibb.de/KI_Progs/perzeption_training_v3.html Perception Simulator]

	Im Simulator kann noch die Lernrate eingestellt.		Im Simulator kann noch die Lernrate eingestellt.
	Die Lernrate () bestimmt beim Training eines Perzeptrons, wie stark Gewicht (w) und Bias (b) bei einem Fehler verändert werden.		Die Lernrate (<math>\eta</math>) bestimmt beim Training eines Perzeptrons, wie stark Gewicht (w) und Bias (b) bei einem Fehler verändert werden.

	Beim einfachen Perzeptron kann die Lernregel beispielsweise so geschrieben werden:		Beim einfachen Perzeptron kann die Lernregel beispielsweise so geschrieben werden:
Zeile 116:		Zeile 118:
	Dabei ist:		Dabei ist:

	() = Lernrate (y) = gewünschter Ausgang (y) = ~~tatsächlich~~ berechneter Ausgang (y-y) = Fehler (x) = Eingangswert Anschaulich bei deinem Perzeptron		(<math>\eta</math>) = Lernrate (y) = gewünschter Ausgang (<math>\hat y</math>) = tatsaechlich berechneter Ausgang (y-<math>\hat y</math>) = Fehler (x) = Eingangswert Anschaulich bei deinem Perzeptron

	Die Netzeingabefunktion ist		Die Netzeingabefunktion ist
Zeile 154:		Zeile 156:
	<math display="block"> \Delta w=1. </math>		<math display="block"> \Delta w=1. </math>

	Je ~~größer~~ die Lernrate, desto größer sind also die einzelnen Korrekturschritte.		Je groeszer die Lernrate, desto größer sind also die einzelnen Korrekturschritte.

	Für deine grafische Darstellung kann man es besonders schön so formulieren:		Für deine grafische Darstellung kann man es besonders schön so formulieren:

	Die Lernrate () bestimmt, wie stark die Netzeingabefunktion (z=wx+b) bei einem Trainingsfehler verschoben bzw. in ihrer Steigung verändert wird.		Die Lernrate (\eta) bestimmt, wie stark die Netzeingabefunktion (z=wx+b) bei einem Trainingsfehler verschoben bzw. in ihrer Steigung verändert wird.

	Ein wichtiger Sonderfall in deinem Beispiel ist (x=0). Dann gilt		Ein wichtiger Sonderfall in deinem Beispiel ist (x=0). Dann gilt
Zeile 166:		Zeile 168:
	Das Gewicht kann sich also überhaupt nicht ändern. Nur der Bias wird angepasst. Bei (x=1) können dagegen sowohl Gewicht als auch Bias verändert werden.		Das Gewicht kann sich also überhaupt nicht ändern. Nur der Bias wird angepasst. Bei (x=1) können dagegen sowohl Gewicht als auch Bias verändert werden.

	Genau dieser Effekt ist ~~in deinem~~ Äquivalenz-/Negations-Beispiel didaktisch sehr interessant.		Genau dieser Effekt ist bei dem Äquivalenz-/Negations-Beispiel didaktisch sehr interessant.

	=Skalierung der Ueberlegung=		=Skalierung der Ueberlegung=

Chris T. Ludwig: /* Perzeptron */

2026-08-31T17:53:12Z

Perzeptron

← Nächstältere Version		Version vom 31. August 2026, 19:53 Uhr
Zeile 102:		Zeile 102:

	Zur Verdeutlichung habe ich mal einen Demonstrator bei ChatGPT in Auftrag gegeben. [https://tippvomtibb.de/KI_Progs/perzeption_training_v3.html Perception Simulator]		Zur Verdeutlichung habe ich mal einen Demonstrator bei ChatGPT in Auftrag gegeben. [https://tippvomtibb.de/KI_Progs/perzeption_training_v3.html Perception Simulator]

			Im Simulator kann noch die Lernrate eingestellt.
			Die Lernrate () bestimmt beim Training eines Perzeptrons, wie stark Gewicht (w) und Bias (b) bei einem Fehler verändert werden.

			Beim einfachen Perzeptron kann die Lernregel beispielsweise so geschrieben werden:

			<math display="block"> w_{\text{neu}}=w_{\text{alt}}+\eta\,(y-\hat y)\,x </math>

			und für den Bias:
			<math>\displaystyle z = \sum_{i=1}^{n} w_i x_i + b</math>
			<math> b_{\text{neu}}=b_{\text{alt}}+\eta\,(y-\hat y) </math>

			Dabei ist:

			() = Lernrate (y) = gewünschter Ausgang (y) = tatsächlich berechneter Ausgang (y-y) = Fehler (x) = Eingangswert Anschaulich bei deinem Perzeptron

			Die Netzeingabefunktion ist

			<math display="block"> z(x)=wx+b </math>

			Die Lernrate bestimmt also, wie weit diese Gerade bei einem Trainingsschritt verändert wird.

			Bei einem Fehler beeinflusst

			<math display="block"> \Delta w=\eta (y-\hat y)x </math>

			die Steigung der Geraden und

			<math display="block"> \Delta b=\eta (y-\hat y) </math>

			ihre Verschiebung nach oben oder unten.

			Beispiel mit

			<math display="block"> x=1,\quad y=1,\quad \hat y=0 </math>

			ist der Fehler

			<math display="block"> e=y-\hat y=1. </math>

			Bei (1):

			<math display="block"> \Delta w=0{,}1\cdot1\cdot1=0{,}1 </math>

			Bei (5):

			<math display="block"> \Delta w=0{,}5 </math>

			und bei ():

			<math display="block"> \Delta w=1. </math>

			Je größer die Lernrate, desto größer sind also die einzelnen Korrekturschritte.

			Für deine grafische Darstellung kann man es besonders schön so formulieren:

			Die Lernrate () bestimmt, wie stark die Netzeingabefunktion (z=wx+b) bei einem Trainingsfehler verschoben bzw. in ihrer Steigung verändert wird.

			Ein wichtiger Sonderfall in deinem Beispiel ist (x=0). Dann gilt

			<math display="block"> \Delta w=\eta e\cdot0=0. </math>

			Das Gewicht kann sich also überhaupt nicht ändern. Nur der Bias wird angepasst. Bei (x=1) können dagegen sowohl Gewicht als auch Bias verändert werden.

			Genau dieser Effekt ist in deinem Äquivalenz-/Negations-Beispiel didaktisch sehr interessant.

	=Skalierung der Ueberlegung=		=Skalierung der Ueberlegung=