Was ist GPT-3 and warum revolutioniert es die KI?

Viele bezeichnen GPT-3 als das größte künstliche neuronale Netz, das je geschaffen wurde.

Dieser neue Fortschritt, der von der Firma OpenAI präsentiert wurde, hat Elon Musk und Sam Altman mehr als 4 Millionen Dollar gekostet. Die Investition hat sich jedoch gelohnt, da es eine neue und noch unbekannte Welt der Möglichkeiten für KI eröffnet hat. 

Index

• Was ist GPT-3?
• Die Fähigkeit des GPT-3
• Wie funktioniert GPT-3?
• Welche Probleme können auftreten?

Was ist GPT-3?

GPT-3 steht für Generative Pre-training Transformer 3. Es ist ein Deep-Learning-Modell, das von Algorithmen gebildet wird. Das Modell ist in der Lage, Muster in den Daten zu erkennen und durch Beispiele zu lernen. Aus diesem Grund wird es als künstliches neuronales Netz mit Langzeitgedächtnis betrachtet.

 

Die Hauptfunktion von GPT-3 ist die Generierung von Text, durch seine  zuvor trainierten Algorithmen, die  aus einer riesigen Datenbank gewonnen wurden.

 

Es wertet alle eingehenden Daten aus und verarbeitet sie anschließend. So sind wir in der Lage, benötigte Informationslücken zu schließen.

GPT-3 wurde als der wichtigste und nützlichste Fortschritt in der künstlichen Intelligenz seit Jahren bezeichnet. Bis heute scheint es das leistungsfähigste KI-Modell zu sein, und das nur in der Beta-Version.

 

Lesen Sie weiter | Künstliche Intelligenz vs. Machine Learning vs. Deep Learning

 

Die Fähigkeit des GPT-3

GPT-3 ist in der Lage, mit einer einzigen Anweisung Text zu generieren und den Rest des Schreibens zu vervollständigen. Dabei werden mehr als 175 Milliarden Parameter verarbeitet. Die Vorgängerversion, GPT-2 (vorgestellt im Jahr 2019), war nur in der Lage 1,5 Milliarden Parameter zu verarbeiten. Dies ist ein erstaunlicher  Fortschritt in kurzer Zeit. 

Außerdem kann es Texte in andere Sprachen übersetzen und an verschiedene Schreibstile anpassen, z. B. Journalismus, Roman usw. Es kann Gedichte schreiben oder uns eine passende Antwort auf unsere Fragen geben.  

Zusammenfassend lässt sich sagen, dass GPT-3 alles erstellen kann, was eine Sprachstruktur hat: Fragen beantworten, Aufsätze schreiben, lange Texte zusammenfassen, Übersetzungen machen, Notizen machen und sogar Entwicklungscode erstellen.

Ja, Sie haben richtig gelesen, es kann programmieren. Mit Erstaunen wurde festgestellt, dass es ein Plug-in für das Software-Tool Figma, das häufig im App- und Web-Design eingesetzt wird, verwenden kann. Dieses Dienstprogramm könnte große Auswirkungen auf die Art und Weise haben, wie Software und Anwendungen in Zukunft entwickelt werden.

Seine Fähigkeiten sind erstaunlich, insbesondere wenn man sein Potenzial für die Zukunft betrachtet. 

 

Weiterlesen | Augmented Intelligence: Mensch und KI mit vereinten Kräften

 

Wie funktioniert GPT-3?

Damit es richtig funktionieren kann, musste es vorher mit einer großen Menge an Daten versorgt werden. Dafür wurden OpenAI ausgewählte Texte von Wikipedia und etwa 750 GB aus dem CommonCrawl, ein öffentlich zugänglicher Datensatz,  gewählt. Dies erforderte eine hohe Menge and Computer-Ressourcen und Investitionen in Höhe von 4.6 Millionen Dollar für die Schulung.  

Diese algorithmische Struktur ist darauf ausgelegt, einen Teil der Sprache (Eingabe) zu nehmen und in eine Nachricht umzuwandeln, die es als nützlichsten Teil vorhersagt. Diese Vorhersagen werden durch Training mit seiner großen Datenbank erstellt. Damit unterscheidet es sich zu anderen Algorithmen. 

Zum Aufbau von Texten, wie z. B. Sätzen, wird die semantische Analyse verwendet. Damit können nicht nur Wörter und allgemeine Bedeutungen untersucht werden, sondern auch unterschiedliche Bedeutung, je nach der Verwendung von anderen Wörter und ihrem globalen Kontext. 

In diesem Video finden Sie 14 Beispiele für Apps, die in GPT-3 entwickelt werden:

Unüberwachtes Lernen

Diese spezielle Art zu lernen, nennt man unüberwachtes Lernen. Das bedeutet, dass im Training keine Anweisungen erfolgen, die eine Antwort als richtig oder falsch kennzeichnet. Sie erhalten alle benötigten Informationen durch die Analyse der Texte, die Teil der Datenbank sind.

Wenn KI mit einer Aufgabe beginnt, wird sie Millionen von Fehlern machen, aber irgendwann auf das richtige Wort kommen. Bei der Überprüfung ursprünglicher Eingaben wird festgestellt, was die „richtige“ Option ist. Wenn die richtige Ausgabe festgestellt wurde, wird dem richtigen Prozess des Algorithmus ein „Gewicht“ zugewiesen. Auf diese Weise kann schrittweise erlernt werden, welche Prozesse am ehesten richtige Antworten liefern.

 

 ? Vielleicht interessiert Sie auch | 7 Wege, wie Big Data unsere Unternehmen zukünftig beeinflussen wird

 

Welche Probleme können auftreten?

Einige Probleme, vor denen Spezialisten für künstliche Intelligenz gewarnt haben, sind die Verbreitung von Fake News. Diese Algorithmen könnten falsche Nachrichten produzieren und die Netzwerke überfluten. Es entstehen allgemeine Fehlinformation, ohne dass wir bemerken, was passiert.

 Wenn Sie denken dass Sie einen von einer Maschine geschriebenen Text erkennen können, dann sollten Sie eine Studie von Adrian Yijie Xu lesen. Diese sagt: 

 

„Nur 52% der Leser erkennen, welche Texte von GPT-3 erstellt werden.“

 

Damit wäre ein hoher Prozentsatz der Bevölkerung anfällig für künstliche Fake News. Die Weiterverbreitung könnte erheblich zu Desinformationen beitragen.

Ein weiteres Problem im Moment ist der Preis des Tools. Da es eine große Menge an Computerleistung benötigt, um zu funktionieren ist die Verwendung recht teuer. Der Einsatz ist also nur auf wenige Unternehmen beschränkt, die es sich leisten können.

 

? Empfohlener Beitrag | 5 Wege, wie Edge Computing die Zukunft der IoT beeinflusst

 

 Die Zukunft von GPT-3

Auf der anderen Seite hat OpenAI nicht alle Details offengelegt, wie seine Algorithmen funktionieren. Wer sich also auf GPT-3 verlässt, um eine Frage zu beantworten oder ein Produkt zu erstellen, ist im Prinzip blind. Man kann nicht wissen, wie es diese Informationen bekommen hat und ob sie zuverlässig sind. 

Denn das System ist vielversprechend, aber noch nicht perfekt: Es kann zwar kurze Texte oder einfache Anwendungen erstellen, aber bei komplexeren Aufgaben erinnern seine Ergebnisse eher an Geschwafel, als eine wirklich brauchbare Antwort. 

Bei allen Einschränkungen können wir nicht genau sagen, ob GPT-3 in kurzer Zeit sehr vielversprechende Ergebnisse erzielen kann.  Wir hoffen aber, dass es in Zukunft auf praktische Art und Weise in unserem täglichen Leben angewendet werden kann. Zum Beispiel zur Verbesserung von Chatbots oder als Hilfe für Programmierer.