Willkommen im Computational Intelligence Lab an der Universität Oldenburg.

AGI: Cognitive Prompting

Cognitive Prompting ist unser Ansatz, um Problemlösungen in großen Sprachmodellen (LLMs) durch strukturierte, menschenähnliche kognitive Operationen wie Zielklärung, Zerlegung, Filterung, Abstraktion und Mustererkennung zu leiten. Durch systematisches, schrittweises Denken ermöglicht Cognitive Prompting LLMs, komplexe, mehrstufige Aufgaben effizienter zu bewältigen. Wir stellen drei Varianten vor: eine deterministische Abfolge kognitiver Operationen, eine selbstadaptive Variante, bei der das LLM die Sequenz der kognitiven Operationen dynamisch auswählt, und eine hybride Variante, die generierte korrekte Lösungen als Few-Shot-Chain-of-Thought-Prompts verwendet. Experimente mit den Modellen LLaMA, Gemma und Qwen in jeweils zwei Größen auf dem Benchmark GSM8K für arithmetisches Denken zeigen, dass Cognitive Prompting die Leistung im Vergleich zu standardmäßigen Frage-Antwort-Verfahren erheblich verbessert.

Bioinformatik: Sequenzbasierte Vorhersage von Protein-Pockets mit ProtT5-Embeddings und räumlichem Sampling

Protein-Ligand-Bindungstaschen lassen sich durch Sequenz-Embeddings auf Basis von ProtT5 identifizieren, trainiert mit Daten aus der PDBBind-Datenbank. Eine räumliche Sampling-Strategie erzeugt gezielt Negativbeispiele, um ein ausgewogenes Klassifikationsmodell zu ermöglichen. Klassifikationsgenauigkeiten von bis zu 0,90 werden erreicht, wobei SVM-Modelle am besten abschneiden. Eine vollautomatische Pipeline erlaubt die Erkennung von Bindungstaschen direkt aus Proteinstrukturen. Eine Fallstudie zur c-Src-Kinase zeigt den praktischen Nutzen dieser Methode für die Arzneimittelentwicklung.

Evolutionäre Algorithmen: Verbesserung evolutionärer Algorithmen durch Meta-Evolutionsstrategien

Eine Meta-Evolutionsstrategie passt zentrale Hyperparameter von CMA-ES, PSO und DE dynamisch an, basierend auf einem (1+1)-ES mit Rechenbergs 1/5-Regel. Jeder Optimierer variiert zwei leistungsrelevante Parameter, nutzt Restart-Mechanismen und dimensionsabhängige Budgets zur Vermeidung von Stagnation. Tests auf Benchmarkfunktionen zeigen eine starke Abhängigkeit der Leistung von der Problemstruktur: PSO überzeugt bei einfachen Funktionen, CMA-ES bei komplexeren, während DE insgesamt robuste Ergebnisse liefert. Die Methode demonstriert die Wirksamkeit von Meta-Evolution zur adaptiven Hyperparametertuning.

Bücher

Blogposts auf Towards Data Science

SPIEGEL-Podcast - Moreno+1: „Eine starke KI? Halte ich für wahrscheinlich.“

Der KI-Professor Oliver Kramer arbeitet an Algorithmen, die „menschenähnliche kognitive Leistungen“ zeigen. Er ist überzeugt, dass Maschinen intelligenter werden als Menschen. Das sollten wir bedenken.

Link zum Podcast.

Switch to English version.