This is the Windows app named Automated Interpretability whose latest release can be downloaded as automated-interpretabilitysourcecode.tar.gz. It can be run online in the free hosting provider OnWorks for workstations.
Download and run online this app named Automated Interpretability with OnWorks for free.
Volg deze instructies om deze app uit te voeren:
- 1. Download deze applicatie op uw pc.
- 2. Voer in onze bestandsbeheerder https://www.onworks.net/myfiles.php?username=XXXXX in met de gebruikersnaam die u wilt.
- 3. Upload deze applicatie in zo'n bestandsbeheerder.
- 4. Start een OS OnWorks online emulator vanaf deze website, maar een betere Windows online emulator.
- 5. Ga vanuit het OnWorks Windows-besturingssysteem dat u zojuist hebt gestart naar onze bestandsbeheerder https://www.onworks.net/myfiles.php?username=XXXXX met de gewenste gebruikersnaam.
- 6. Download de applicatie en installeer deze.
- 7. Download Wine van de softwarebronnen voor Linux-distributies. Eenmaal geïnstalleerd, kunt u vervolgens dubbelklikken op de app om ze met Wine uit te voeren. Je kunt ook PlayOnLinux proberen, een mooie interface via Wine waarmee je populaire Windows-programma's en -games kunt installeren.
Wine is een manier om Windows-software op Linux uit te voeren, maar zonder dat Windows vereist is. Wine is een open-source Windows-compatibiliteitslaag die Windows-programma's rechtstreeks op elke Linux-desktop kan uitvoeren. In wezen probeert Wine genoeg van Windows opnieuw te implementeren, zodat het al die Windows-applicaties kan draaien zonder Windows echt nodig te hebben.
SCREENSHOTS
Ad
Automated Interpretability
PRODUCTBESCHRIJVING
The automated-interpretability repository implements tools and pipelines for automatically generating, simulating, and scoring explanations of neuron (or latent feature) behavior in neural networks. Instead of relying purely on manual, ad hoc interpretability probing, this repo aims to scale interpretability by using algorithmic methods that produce candidate explanations and assess their quality. It includes a “neuron explainer” component that, given a target neuron or latent feature, proposes natural language explanations or heuristics (e.g. “this neuron activates when the input has property X”) and then simulates activation behavior across example inputs to test whether the explanation holds. The project also contains a “neuron viewer” web component for browsing neurons, explanations, and activation patterns, making it more interactive and exploratory.
Kenmerken
- A neuron explainer module that proposes natural language or rule-based explanations for neuron/latent feature behavior
- Simulation / scoring of explanations by comparing predicted activations vs true activations across inputs
- A neuron viewer UI to browse neurons, see activations, and inspect explanations
- Demo notebooks illustrating how explanations are generated and evaluated (e.g. explain_puzzles.ipynb)
- Infrastructure for activation capture and analysis (e.g. modules like activations.py)
- Ranking / scoring heuristics to decide which explanations are more faithful or useful
Programmeertaal
Python
Categorieën
This is an application that can also be fetched from https://sourceforge.net/projects/automated-interpretab.mirror/. It has been hosted in OnWorks in order to be run online in an easiest way from one of our free Operative Systems.
