AureliusPrijs

(SN37)

Aurelius is een gespecialiseerd AI alignment-subnet dat zich richt op het identificeren van gevallen waarin AI-modellen schadelijke, onware of onethische outputs genereren. Door als veiligheidslaag te fungeren, transformeert het deze bevindingen van misalignment naar hoogwaardige trainingsdatasets. Deze data worden vervolgens gebruikt om toekomstige AI-modellen te fine-tunen, zodat ze behulpzaam, eerlijk en onschadelijk blijven terwijl ze zich houden aan ethische menselijke waarden.

Het project wordt geleid door oprichter Austin McCaffrey. Het werd oorspronkelijk opgericht als een fine-tuning-subnet dat werd beheerd door het Macrocosmos-team. Sindsdien is het overgegaan naar het Aurelius-team om zich uitsluitend te richten op AI alignment, waarbij de cruciale datainfrastructuur wordt geboden die nodig is om de veiligheid en betrouwbaarheid van kunstmatige intelligentie in het hele netwerk te verbeteren.

Miners fungeren als 'adversarial prompters' of red-teamers, met als taak manieren te vinden om AI-modellen te misleiden. Validators treden op als auditors die deze bevindingen verifiëren. Zij beoordelen de bijdragen van de miners aan de hand van een specifieke set regels die bekendstaat als de 'Constitution', om te bevestigen of er een legitieme alignment-fout is ontdekt, zodat alleen hoogwaardige data worden gegenereerd en beloond.

Het Tribunate is een unieke governance-functie van Aurelius die dient als een rules engine of levende 'constitution'. Het definieert de rubriek voor veilig AI-gedrag en evolueert op basis van input van de community en experts. Dit systeem zorgt ervoor dat de standaarden voor het beoordelen van AI-outputs actueel en effectief blijven in het bevorderen van ethische AI-ontwikkeling binnen de gedecentraliseerde stack.

Het SN37-token, dat fungeert als een dynamic TAO (dTAO) of Alpha-token, vertegenwoordigt een belang in de output van het subnet. Het wordt gebruikt voor governance binnen het Tribunate, beloont miners voor succesvolle red-teaming en stimuleert validators voor accurate scoring. Daarnaast biedt het token deelnemers toegang tot premium, enterprise-grade alignment-datasets die door het netwerk worden geproduceerd.

Aurelius is ontworpen om inter-subnet compatibel te zijn, waarbij modellen van andere subnets worden gebruikt als doelwitten voor red-teaming om een feedbackloop te creëren die het hele ecosysteem versterkt. Terwijl het project data van enterprise-kwaliteit produceert, richt het zich ook op het publiceren van open benchmarks in publieke repositories om verbeteringen in de veiligheid van modellen aan te tonen, en fungeert het als een gedecentraliseerde waakhond voor de kunstmatige intelligentie-industrie.