cache demo

%23%20%2F%2F%2F%20script%0A%23%20requires-python%20%3D%20%22%3E%3D3.12%22%0A%23%20dependencies%20%3D%20%5B%22marimo%3E%3D0.23.8%22%2C%20%22numpy%3D%3D2.4.3%22%2C%20%22matplotlib%3D%3D3.10.8%22%2C%20%22scikit-learn%3D%3D1.8.0%3B%20sys_platform%20!%3D%20'emscripten'%22%2C%20%22torch%3B%20sys_platform%20!%3D%20'emscripten'%22%2C%20%22onnx%3B%20sys_platform%20!%3D%20'emscripten'%22%2C%20%22onnxruntime%3B%20sys_platform%20!%3D%20'emscripten'%22%5D%0A%23%20%0A%23%20%5Btool.uv.sources.torch%5D%0A%23%20index%20%3D%20%22pytorch-cpu%22%0A%23%20%0A%23%20%5B%5Btool.uv.index%5D%5D%0A%23%20name%20%3D%20%22pytorch-cpu%22%0A%23%20url%20%3D%20%22https%3A%2F%2Fdownload.pytorch.org%2Fwhl%2Fcpu%22%0A%23%20explicit%20%3D%20true%0A%23%20%0A%23%20%5Btool.marimo.runtime%5D%0A%23%20cell_caching%20%3D%20true%0A%23%20pin_modules%20%3D%20false%0A%23%20%0A%23%20%5Btool.marimo.export%5D%0A%23%20lock_kind%20%3D%20%22observed%22%0A%23%20%2F%2F%2F%0A%22%22%22WASM%20cache-demo%20for%20the%20SciPy%202026%20caching%20paper%20%E2%80%94%20the%20torch%E2%86%92ONNX%20kicker.%0A%0AA%20PyTorch%20MLP%20is%20trained%20at%20export%20time.%20Three%20things%20ship%20in%20the%0Acontent-addressed%20cache%3A%20numpy%20sweep%20tensors%20(sliced%20by%20the%20page)%2C%20the%0Atorch-native%20defs%20(never%20hydrated%20in%20the%20browser%20%E2%80%94%20a%20numpy%20load%0Aprevents%20a%20torch%20load)%2C%20and%20an%20%60OnnxRuntime%60%20whose%20custom%20stub%0Aserializes%20it%20as%20exactly%20its%20ONNX%20bytes.%20The%20browser%20restores%20that%20def%0Aas%20a%20working%20inference%20session%20backed%20by%20onnxruntime-web%20(dual-backend%0Apattern%20after%20rambip%2Fsketch-vectorization)%20%E2%80%94%20live%20predictions%20from%20a%0Atorch-trained%20model%2C%20with%20torch%20nowhere%20on%20the%20wire.%0A%0A%60app.setup%60%20carries%20only%20browser-safe%20imports%3B%20torch%20is%20isolated%20to%0Aits%20own%20block%2C%20supplied%20by%20the%20host%20export%20environment.%0A%22%22%22%0A%0Aimport%20marimo%0A%0A__generated_with%20%3D%20%220.23.9%22%0Aapp%20%3D%20marimo.App(width%3D%22medium%22)%0A%0Awith%20app.setup(hide_code%3DTrue)%3A%0A%20%20%20%20import%20time%0A%20%20%20%20from%20typing%20import%20Any%0A%0A%20%20%20%20import%20marimo%20as%20mo%0A%20%20%20%20import%20matplotlib.pyplot%20as%20plt%0A%20%20%20%20import%20numpy%20as%20np%0A%0A%20%20%20%20from%20marimo._save.stubs%20import%20CustomStub%0A%20%20%20%20from%20marimo._save.stubs.stubs%20import%20register_stub%0A%0A%20%20%20%20%23%20ONNX%20runtime%20wrapper%20%2B%20its%20cache%20stub%2C%20inlined%20from%20the%20artifact's%0A%20%20%20%20%23%20standalone%20lib%20(demo%2Fonnx_stub.py%20%E2%80%94%20keep%20in%20sync).%20Living%20in%20the%0A%20%20%20%20%23%20notebook%20keeps%20the%20WASM%20export%20self-contained%3A%20the%20pickle%20path%20is%0A%20%20%20%20%23%20__main__-qualified%20and%20resolves%20against%20this%20namespace%20on%20restore.%0A%0A%20%20%20%20class%20OnnxRuntime%3A%0A%20%20%20%20%20%20%20%20%22%22%22Lazy%2C%20environment-adaptive%20ONNX%20inference%20session.%0A%0A%20%20%20%20%20%20%20%20Holds%20only%20the%20serialized%20model%3B%20the%20live%20session%20is%20constructed%20on%0A%20%20%20%20%20%20%20%20first%20%60run()%60%20per%20environment%2C%20and%20is%20never%20serialized%20(pickling%20an%0A%20%20%20%20%20%20%20%20instance%20round-trips%20just%20the%20bytes).%0A%20%20%20%20%20%20%20%20%22%22%22%0A%0A%20%20%20%20%20%20%20%20def%20__init__(self%2C%20onnx_bytes%3A%20bytes)%20-%3E%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20self.onnx_bytes%20%3D%20onnx_bytes%0A%20%20%20%20%20%20%20%20%20%20%20%20self._session%3A%20Any%20%3D%20None%0A%20%20%20%20%20%20%20%20%20%20%20%20self._ort%3A%20Any%20%3D%20None%0A%20%20%20%20%20%20%20%20%20%20%20%20self._kind%3A%20str%20%7C%20None%20%3D%20None%0A%0A%20%20%20%20%20%20%20%20def%20__getstate__(self)%20-%3E%20dict%5Bstr%2C%20Any%5D%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20%7B%22onnx_bytes%22%3A%20self.onnx_bytes%7D%0A%0A%20%20%20%20%20%20%20%20def%20__setstate__(self%2C%20state%3A%20dict%5Bstr%2C%20Any%5D)%20-%3E%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20self.onnx_bytes%20%3D%20state%5B%22onnx_bytes%22%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20self._session%20%3D%20None%0A%20%20%20%20%20%20%20%20%20%20%20%20self._ort%20%3D%20None%0A%20%20%20%20%20%20%20%20%20%20%20%20self._kind%20%3D%20None%0A%0A%20%20%20%20%20%20%20%20%40staticmethod%0A%20%20%20%20%20%20%20%20def%20_in_browser()%20-%3E%20bool%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20from%20importlib.util%20import%20find_spec%0A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20find_spec(%22js%22)%20is%20not%20None%20and%20find_spec(%22pyodide%22)%20is%20not%20None%0A%0A%20%20%20%20%20%20%20%20async%20def%20_ensure(self)%20-%3E%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20if%20self._session%20is%20not%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20return%0A%20%20%20%20%20%20%20%20%20%20%20%20if%20self._in_browser()%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20import%20js%20%20%23%20type%3A%20ignore%5Bimport-not-found%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20from%20pyodide.ffi%20import%20to_js%20%20%23%20type%3A%20ignore%5Bimport-not-found%5D%0A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ort%20%3D%20await%20js.eval(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22import('https%3A%2F%2Fcdn.jsdelivr.net%2Fnpm%2Fonnxruntime-web%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22%2Fdist%2Fort.all.bundle.min.mjs')%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ort.env.wasm.wasmPaths%20%3D%20(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22https%3A%2F%2Fcdn.jsdelivr.net%2Fnpm%2Fonnxruntime-web%2Fdist%2F%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20opts%20%3D%20js.Object.new()%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20opts.executionProviders%20%3D%20to_js(%5B%22wasm%22%5D)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20self._ort%20%3D%20ort%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20self._session%20%3D%20await%20ort.InferenceSession.create(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20to_js(self.onnx_bytes)%2C%20opts%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20self._kind%20%3D%20%22web%22%0A%20%20%20%20%20%20%20%20%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20try%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20import%20onnxruntime%20as%20ort%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20except%20ImportError%20as%20e%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20raise%20RuntimeError(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22OnnxRuntime.run()%20outside%20the%20browser%20requires%20the%20%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22%60onnxruntime%60%20package.%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20)%20from%20e%0A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20self._session%20%3D%20ort.InferenceSession(self.onnx_bytes)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20self._kind%20%3D%20%22native%22%0A%0A%20%20%20%20%20%20%20%20async%20def%20run(%0A%20%20%20%20%20%20%20%20%20%20%20%20self%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20inputs%3A%20dict%5Bstr%2C%20np.ndarray%5D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20output_names%3A%20list%5Bstr%5D%20%7C%20None%20%3D%20None%2C%0A%20%20%20%20%20%20%20%20)%20-%3E%20list%5Bnp.ndarray%5D%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%22%22%22Run%20inference%3B%20returns%20outputs%20in%20%60output_names%60%20order.%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20import%20numpy%20as%20np%0A%0A%20%20%20%20%20%20%20%20%20%20%20%20await%20self._ensure()%0A%20%20%20%20%20%20%20%20%20%20%20%20if%20self._kind%20%3D%3D%20%22native%22%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20return%20self._session.run(output_names%2C%20inputs)%0A%0A%20%20%20%20%20%20%20%20%20%20%20%20from%20pyodide.ffi%20import%20to_js%20%20%23%20type%3A%20ignore%5Bimport-not-found%5D%0A%0A%20%20%20%20%20%20%20%20%20%20%20%20feeds%20%3D%20%7B%7D%0A%20%20%20%20%20%20%20%20%20%20%20%20for%20name%2C%20arr%20in%20inputs.items()%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20arr%20%3D%20np.ascontiguousarray(arr%2C%20dtype%3Dnp.float32)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20feeds%5Bname%5D%20%3D%20self._ort.Tensor.new(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22float32%22%2C%20to_js(arr.ravel())%2C%20to_js(list(arr.shape))%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20)%0A%20%20%20%20%20%20%20%20%20%20%20%20results%20%3D%20await%20self._session.run(to_js(feeds))%0A%20%20%20%20%20%20%20%20%20%20%20%20names%20%3D%20output_names%20or%20list(results.object_keys())%0A%20%20%20%20%20%20%20%20%20%20%20%20out%20%3D%20%5B%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20for%20name%20in%20names%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20tensor%20%3D%20getattr(results%2C%20name)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20out.append(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20np.asarray(tensor.data.to_py()%2C%20dtype%3Dnp.float32).reshape(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20list(tensor.dims.to_py())%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20)%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20out%0A%0A%0A%20%20%20%20class%20OnnxRuntimeStub(CustomStub)%3A%0A%20%20%20%20%20%20%20%20%22%22%22Serialize%20an%20%60OnnxRuntime%60%20as%20exactly%20its%20model%20bytes.%22%22%22%0A%0A%20%20%20%20%20%20%20%20__slots__%20%3D%20(%22onnx_bytes%22%2C)%0A%0A%20%20%20%20%20%20%20%20def%20__init__(self%2C%20runtime%3A%20Any)%20-%3E%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20self.onnx_bytes%20%3D%20runtime.onnx_bytes%0A%0A%20%20%20%20%20%20%20%20def%20load(self%2C%20glbls%3A%20dict%5Bstr%2C%20Any%5D)%20-%3E%20Any%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20del%20glbls%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20OnnxRuntime(self.onnx_bytes)%0A%0A%20%20%20%20%20%20%20%20%40staticmethod%0A%20%20%20%20%20%20%20%20def%20get_type()%20-%3E%20type%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20OnnxRuntime%0A%0A%20%20%20%20%20%20%20%20def%20to_bytes(self)%20-%3E%20bytes%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20self.onnx_bytes%0A%0A%20%20%20%20%23%20Run%20in%20setup%20(never%20cached)%20so%20every%20session%20%E2%80%94%20host%20export%20and%0A%20%20%20%20%23%20browser%20alike%20%E2%80%94%20registers%20the%20stub%20before%20any%20cell%20saves%2Frestores.%0A%20%20%20%20register_stub(OnnxRuntime%2C%20OnnxRuntimeStub)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20intro()%3A%0A%20%20%20%20mo.md(%22%22%22%0A%20%20%20%20%23%20A%20PyTorch%20model%20your%20browser%20never%20loads%20%E2%80%94%20but%20still%20runs%0A%0A%20%20%20%20This%20static%20page%20is%20a%20marimo%20notebook%20export%20with%20**cell-level%0A%20%20%20%20caching**.%20The%20model%20below%20was%20trained%20with%20**PyTorch**%20at%0A%20%20%20%20export%20time.%20The%20page's%20plots%20slice%20cached%20numpy%20sweep%20tensors%3B%0A%20%20%20%20the%20*live*%20predictions%20run%20through%20the%20cached%20model's%20**ONNX%0A%20%20%20%20bytes**%2C%20restored%20from%20the%20cache%20as%20a%20working%0A%20%20%20%20%60onnxruntime-web%60%20session.%20torch%20itself%20never%20crosses%20the%20wire%0A%20%20%20%20(check%20the%20network%20tab%3A%20%60.npy%60%20blobs%2C%20pickles%2C%20one%20ONNX%0A%20%20%20%20payload%2C%20and%20the%20ort-web%20bundle).%0A%0A%20%20%20%20Drag%20the%20slider%20%E2%80%94%20every%20move%20is%20a%20fresh%20in-browser%20inference.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20torch_block()%3A%0A%20%20%20%20%23%20Host-only%3A%20torch%20is%20isolated%20to%20this%20block.%20Downstream%20cells%0A%20%20%20%20%23%20reference%20the%20module%20def%3B%20on%20a%20cache%20hit%20nothing%20forces%20it%2C%20so%0A%20%20%20%20%23%20the%20browser%20never%20imports%20(or%20downloads)%20torch.%0A%20%20%20%20import%20torch%0A%0A%20%20%20%20return%20(torch%2C)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20train(torch)%3A%0A%20%20%20%20%23%20Host-only%20heavy%20lifting.%20Precompute%20stays%20sound%20by%20computing%20the%0A%20%20%20%20%23%20FULL%20SWEEP%20TENSOR%20on%20the%20one%20canonical%20path%20%E2%80%94%20interactive%20cells%0A%20%20%20%20%23%20slice%20it%20%E2%80%94%20while%20%60runtime%60%20carries%20the%20model%20into%20the%20browser%20as%0A%20%20%20%20%23%20ONNX%20bytes%20via%20its%20custom%20stub.%20The%20torch-native%20defs%20(model%2C%0A%20%20%20%20%23%20sweep_logits)%20are%20never%20forced%20downstream.%0A%20%20%20%20import%20io%20as%20_io%0A%0A%20%20%20%20from%20sklearn.datasets%20import%20load_digits%20as%20_load_digits%0A%0A%20%20%20%20digits%20%3D%20_load_digits()%0A%20%20%20%20x%20%3D%20torch.tensor(digits.data%2C%20dtype%3Dtorch.float32)%20%2F%2016.0%0A%20%20%20%20y%20%3D%20torch.tensor(digits.target)%0A%20%20%20%20idx%20%3D%20torch.randperm(len(y)%2C%20generator%3Dtorch.Generator().manual_seed(0))%0A%20%20%20%20split%20%3D%20int(0.75%20*%20len(y))%0A%20%20%20%20train_i%2C%20test_i%20%3D%20idx%5B%3Asplit%5D%2C%20idx%5Bsplit%3A%5D%0A%0A%20%20%20%20model%20%3D%20torch.nn.Sequential(%0A%20%20%20%20%20%20%20%20torch.nn.Linear(64%2C%2048)%2C%0A%20%20%20%20%20%20%20%20torch.nn.ReLU()%2C%0A%20%20%20%20%20%20%20%20torch.nn.Linear(48%2C%2010)%2C%0A%20%20%20%20)%0A%20%20%20%20opt%20%3D%20torch.optim.Adam(model.parameters()%2C%20lr%3D5e-3)%0A%20%20%20%20loss_fn%20%3D%20torch.nn.CrossEntropyLoss()%0A%20%20%20%20for%20_%20in%20range(300)%3A%0A%20%20%20%20%20%20%20%20opt.zero_grad()%0A%20%20%20%20%20%20%20%20loss%20%3D%20loss_fn(model(x%5Btrain_i%5D)%2C%20y%5Btrain_i%5D)%0A%20%20%20%20%20%20%20%20loss.backward()%0A%20%20%20%20%20%20%20%20opt.step()%0A%0A%20%20%20%20with%20torch.no_grad()%3A%0A%20%20%20%20%20%20%20%20sweep_logits%20%3D%20model(x)%0A%20%20%20%20%20%20%20%20_hidden%20%3D%20model%5B1%5D(model%5B0%5D(x))%0A%0A%20%20%20%20_buf%20%3D%20_io.BytesIO()%0A%20%20%20%20torch.onnx.export(%0A%20%20%20%20%20%20%20%20model%2C%0A%20%20%20%20%20%20%20%20(x%5B%3A1%5D%2C)%2C%0A%20%20%20%20%20%20%20%20_buf%2C%0A%20%20%20%20%20%20%20%20input_names%3D%5B%22x%22%5D%2C%0A%20%20%20%20%20%20%20%20output_names%3D%5B%22logits%22%5D%2C%0A%20%20%20%20%20%20%20%20dynamic_axes%3D%7B%22x%22%3A%20%7B0%3A%20%22n%22%7D%2C%20%22logits%22%3A%20%7B0%3A%20%22n%22%7D%7D%2C%0A%20%20%20%20%20%20%20%20dynamo%3DFalse%2C%0A%20%20%20%20)%0A%20%20%20%20runtime%20%3D%20OnnxRuntime(_buf.getvalue())%0A%0A%20%20%20%20%23%20numpy%20exports%20of%20the%20sweep%20%E2%80%94%20what%20the%20page%20slices.%0A%20%20%20%20probs_np%20%3D%20torch.softmax(sweep_logits%2C%20dim%3D1).numpy()%0A%20%20%20%20test_idx%20%3D%20test_i.numpy()%0A%20%20%20%20acc%20%3D%20float(%0A%20%20%20%20%20%20%20%20(sweep_logits%5Btest_i%5D.argmax(1)%20%3D%3D%20y%5Btest_i%5D).float().mean().item()%0A%20%20%20%20)%0A%20%20%20%20_h%20%3D%20_hidden.numpy()%0A%20%20%20%20_h%20%3D%20_h%20-%20_h.mean(0)%0A%20%20%20%20_u%2C%20_s%2C%20_vt%20%3D%20np.linalg.svd(_h%2C%20full_matrices%3DFalse)%0A%20%20%20%20embedding_np%20%3D%20_u%5B%3A%2C%20%3A2%5D%20*%20_s%5B%3A2%5D%0A%0A%20%20%20%20images%20%3D%20digits.images%0A%20%20%20%20targets%20%3D%20digits.target%0A%20%20%20%20data_np%20%3D%20(digits.data%20%2F%2016.0).astype(%22float32%22)%0A%20%20%20%20trained_at%20%3D%20time.time()%0A%20%20%20%20return%20(%0A%20%20%20%20%20%20%20%20acc%2C%0A%20%20%20%20%20%20%20%20data_np%2C%0A%20%20%20%20%20%20%20%20embedding_np%2C%0A%20%20%20%20%20%20%20%20images%2C%0A%20%20%20%20%20%20%20%20probs_np%2C%0A%20%20%20%20%20%20%20%20runtime%2C%0A%20%20%20%20%20%20%20%20targets%2C%0A%20%20%20%20%20%20%20%20test_idx%2C%0A%20%20%20%20%20%20%20%20trained_at%2C%0A%20%20%20%20)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20status(acc%2C%20trained_at)%3A%0A%20%20%20%20_age_min%20%3D%20(time.time()%20-%20trained_at)%20%2F%2060%0A%20%20%20%20mo.md(%0A%20%20%20%20%20%20%20%20f%22%22%22%0A%20%20%20%20%20%20%20%20%7B%22%E2%9A%A1%20**Restored%20from%20the%20content-addressed%20cache**%20%E2%80%94%20this%20torch%22%0A%20%20%20%20%20%20%20%20%20f%22%20model%20was%20trained%20%7B_age_min%3A%2C.0f%7D%20minutes%20ago%3B%20its%20numpy%22%0A%20%20%20%20%20%20%20%20%20%22%20sweep%20and%20ONNX%20bytes%20bound%20here%20without%20re-running%20a%20step.%22%0A%20%20%20%20%20%20%20%20%20if%20_age_min%20%3E%201%20else%0A%20%20%20%20%20%20%20%20%20%22%F0%9F%94%A5%20**Cold%20run**%20%E2%80%94%20the%20export%20will%20carry%20these%20results%20as%22%0A%20%20%20%20%20%20%20%20%20%22%20cache%20blobs.%22%7D%0A%20%20%20%20%20%20%20%20Held-out%20accuracy%20**%7Bacc%3A.1%25%7D**%20%C2%B7%20300%20Adam%20steps%20%C2%B7%2064%E2%86%9248%E2%86%9210%20MLP%0A%20%20%20%20%20%20%20%20%22%22%22%0A%20%20%20%20)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20picker(test_idx)%3A%0A%20%20%20%20sample%20%3D%20mo.ui.slider(%0A%20%20%20%20%20%20%20%200%2C%0A%20%20%20%20%20%20%20%20len(test_idx)%20-%201%2C%0A%20%20%20%20%20%20%20%20value%3D7%2C%0A%20%20%20%20%20%20%20%20label%3D%22held-out%20digit%22%2C%0A%20%20%20%20%20%20%20%20full_width%3DTrue%2C%0A%20%20%20%20)%0A%20%20%20%20sample%0A%20%20%20%20return%20(sample%2C)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Aasync%20def%20view(%0A%20%20%20%20data_np%2C%0A%20%20%20%20embedding_np%2C%0A%20%20%20%20images%2C%0A%20%20%20%20probs_np%2C%0A%20%20%20%20runtime%2C%0A%20%20%20%20sample%2C%0A%20%20%20%20targets%2C%0A%20%20%20%20test_idx%2C%0A)%3A%0A%20%20%20%20_idx%20%3D%20int(test_idx%5Bsample.value%5D)%0A%20%20%20%20_img%20%3D%20images%5B_idx%5D%0A%20%20%20%20_true%20%3D%20int(targets%5B_idx%5D)%0A%0A%20%20%20%20%23%20Live%20inference%20through%20the%20cached%20ONNX%20runtime%20(ort-web%20in%20the%0A%20%20%20%20%23%20browser%2C%20native%20onnxruntime%20on%20the%20exporting%20host).%0A%20%20%20%20_logits%20%3D%20(await%20runtime.run(%7B%22x%22%3A%20data_np%5B_idx%20%3A%20_idx%20%2B%201%5D%7D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%5B%22logits%22%5D))%5B0%5D%0A%20%20%20%20_e%20%3D%20np.exp(_logits%5B0%5D%20-%20_logits%5B0%5D.max())%0A%20%20%20%20_p%20%3D%20_e%20%2F%20_e.sum()%0A%20%20%20%20_pred%2C%20_conf%20%3D%20int(_p.argmax())%2C%20float(_p.max())%0A%0A%20%20%20%20%23%20Sanity%3A%20live%20inference%20agrees%20with%20the%20cached%20sweep%20slice.%0A%20%20%20%20_sweep_pred%20%3D%20int(probs_np%5B_idx%5D.argmax())%0A%0A%20%20%20%20_fig%2C%20(_ax_img%2C%20_ax_emb)%20%3D%20plt.subplots(%0A%20%20%20%20%20%20%20%201%2C%202%2C%20figsize%3D(9%2C%204)%2C%20width_ratios%3D%5B1%2C%201.6%5D%0A%20%20%20%20)%0A%20%20%20%20_ax_img.imshow(_img%2C%20cmap%3D%22gray_r%22%2C%20interpolation%3D%22nearest%22)%0A%20%20%20%20_ax_img.set_title(%0A%20%20%20%20%20%20%20%20f%22live%20ONNX%20prediction%3A%20%7B_pred%7D%20(%7B_conf%3A.0%25%7D)%20%C2%B7%20true%3A%20%7B_true%7D%22%0A%20%20%20%20%20%20%20%20%2B%20(%22%22%20if%20_pred%20%3D%3D%20_sweep_pred%20else%20%22%20%C2%B7%20sweep%20disagrees!%22)%2C%0A%20%20%20%20%20%20%20%20color%3D%22%232e7d32%22%20if%20_pred%20%3D%3D%20_true%20else%20%22%23d32f2f%22%2C%0A%20%20%20%20)%0A%20%20%20%20_ax_img.set_axis_off()%0A%0A%20%20%20%20_sc%20%3D%20_ax_emb.scatter(%0A%20%20%20%20%20%20%20%20embedding_np%5B%3A%2C%200%5D%2C%20embedding_np%5B%3A%2C%201%5D%2C%20c%3Dtargets%2C%0A%20%20%20%20%20%20%20%20cmap%3D%22tab10%22%2C%20s%3D6%2C%20alpha%3D0.55%2C%0A%20%20%20%20)%0A%20%20%20%20_ax_emb.scatter(%0A%20%20%20%20%20%20%20%20*embedding_np%5B_idx%5D%2C%20s%3D180%2C%20facecolor%3D%22none%22%2C%0A%20%20%20%20%20%20%20%20edgecolor%3D%22black%22%2C%20linewidth%3D2%2C%0A%20%20%20%20)%0A%20%20%20%20_ax_emb.set_title(%22hidden-layer%20PCA%2C%20full%20sweep%20(cached)%22)%0A%20%20%20%20_ax_emb.set_axis_off()%0A%20%20%20%20_fig.colorbar(_sc%2C%20ax%3D_ax_emb%2C%20ticks%3Dnp.arange(10)%2C%20shrink%3D0.8)%0A%20%20%20%20_fig.tight_layout()%0A%20%20%20%20_fig%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20footer()%3A%0A%20%20%20%20mo.md(%22%22%22%0A%20%20%20%20---%0A%20%20%20%20*From%20the%20SciPy%202026%20paper%20%22Content-Addressed%20Caching%20for%0A%20%20%20%20Reactive%20Notebooks.%22%20The%20%60model%60%20def%20above%20is%20a%20live%0A%20%20%20%20%60torch.nn.Sequential%60%20in%20the%20cache%20that%20the%20page%20never%20forces%3B%0A%20%20%20%20the%20%60runtime%60%20def%20is%20the%20same%20network%20as%20ONNX%20bytes%2C%20restored%0A%20%20%20%20through%20a%20custom%20cache%20stub%20and%20backed%20by%20%60onnxruntime-web%60%20in%0A%20%20%20%20your%20browser.%20Dual-backend%20pattern%20after%0A%20%20%20%20%5Brambip%2Fsketch-vectorization%5D(https%3A%2F%2Fgithub.com%2Frambip%2Fsketch-vectorization).*%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0Aif%20__name__%20%3D%3D%20%22__main__%22%3A%0A%20%20%20%20app.run()%0A