Le Keynote

@lekeynote.pomhello.fr

26 Followers 11 Following

Rédacteur pour un tout nouveau magazine numérique d’articles consacrés aux keynotes et aux puces Apple

À gauche, la photo d’une feuille où est écrit WWDC24, avec l’ombre de l’appareil photo et de la main avec la pouce levé apparaissant clairement sur la feuille. À droite, même photo mais avec Constant Color activé. On ne fait que deviner l’ombre de l’appareil photo ni de la main avec le pouce levé, tellement les ombres ont été atténuées.
En haut, de gauche à droite, la photo de la plante avec une couleur intérieure chaude, avec couleur ambiante rouge, avec couleur ambiante verte, avec couleur ambiante bleue. En bas, de gauche à droite, le résultat avec API Constant Color. On a l’impression d’avoir la même photo à chaque fois. impossible de savoir comme cela laquelle a été prise sous quel couleur ambiante.
Sur la photo de gauche on voit une plante couleur violet avec des feuilles vertes dans pot en terre glaise dépose sur table basse de salon avec les ombres de la fleur sur la table, en arrière plan, sur la droite un fauteuil de salon de couleur bleu, à sa gauche, un grand pot de fleur avec les tiges des fleurs que l’on voit dedans. À sa gauche une table ronde blanche, et le bout d’un autre fauteuil de salon, également bleu. Sur la photo de droite, la même photo mais avec l’utilisation de l’API Constant Color. Plus d’ombre de la plante sur la table basse. Le pot en terre glaise apparaît bien plus clair par rapport à la photo de gauche où il avait l’air brun foncé. Le fauteuil bleu dans le fond est bien moins brillant que sur la photo de gauche.
Capture d’écran session 10162 on y voit un studio photo avec une plante déposée sur une table blanche avec une toile blanche comme fond qui va du plafond jusque parterre et un appareil photo numérique sur trépieds avec un grande source lumineuse pour bien éclairé la plante.
Gros plan de la puce M3 sur un composant équipes de 8 coeurs 4 en haut et 4 en bas par rapport à un bus horizontal auxquels ces 8 coeurs sont connectés. Ce composant se trouve en dessous des coeurs efficients.
Gros plan sur le côté droit de la puce M3 avec les 2 Display Engine situés au milieu du côté droit.
Les 4 coeurs efficients de la puce M3 et le cache mémoire et au dessus de celui-ci le bloc AMX.
Gros plan sur la puce M3 où sont mentionnés 2 ports Thunderbotd.
À gauche du CPU Perf situé en dessous de la cache mémoire pour CPU Perf, on a affaire aux 16 coeurs du Neural Enfine, disposés sur 2 colonnes de 2 fois 4 coeurs. On voit en dessous de ces 2 colonnes de 8 coeurs du Neural Engine, de la cache mémoire, qui doit en largeur 3/4 par rapports aux 2 colonnes de 8 coeurs et plus ou moins 1 colonne de 2x3 coeurs du Neural Engine en hauteur.
Zoom sur la partie des CPU-Performants de la puce M3. En haut à gauche deux coeurs performants situés côte à côte. En dessous le Perf CPU Cache, sur une longueur 2 fois plus longue que les deux coeurs performants. En dessous, mais plus centré par rapport au Perf CPU Cache, les 2 autres CPU performants. On entrevoit à la gauche de ces 2 coeurs performants les 16 coeurs du Neural Engine. où on peut voir ce qui a été identifié par Frederic_Orange comme étant le bloc AMX, à droite du CPU Perf 2. On y devine 8 blocs petits blocs carrés, entre autre.
Gros plan sur la partie haute de la puce M3. On y voit les 8 blocs lpddr5 et les 10 coeurs GPU. 4 a gauche, 4 à droite et 2 au centre. Avec un bloc lpddr5 à leur gauche et 2 blocs lpddr5 à leur droite
Le slide de @Frederic_Orange où il décrit la puce M3. On y voit les cœurs GPU, les cœurs CPU, les cœurs du Neural Engine, les blocs AMX, les caches, les 2 contrôleurs Thunderbolt, les deux display engine et les 8 blocs LPDDR5
Photo de la puce Apple M4, provenant de l’article https://www.techinsights.com/blog/introducing-tsmc-n3e-power-behind-apples-m4-soc. Malheureusement elle n’est pas trop nette, rendant difficile de voir certains détails. Chose importante à savoir, les cœurs GPU sont sur le côté gauche sur cette photo et le neural engine sur le côté bas.
Même image que la précédente mais avec précision que le modèle de language on device était de 3 milliards de paramètres et avait un vocabulaire de 49K Que le modèle pour les image est castré pour ne pas générer d’images photorealistes. Tout comme celui tournant sur le PCC. Que le modèle de langage du PCC aura un vocabulaire de 100K et supportera plus de langues et de termes techniques.
Table 2 columns Title column A : everyone except Apple Title column B: logo Apple Line 1, column A : Generative AI vs Line 1, column B : AI (Apple Intelligence) Line 2, column A : AI vs Line 2, column B : Machine Learning Traduction Tableau en 2 colonnes Titre colonne A : tout le monde sauf Apple Titre colonne B : logo Apple Ligne 1, colonne A : Generative AI vs Ligne 1, colonne B : AI (Apple Intelligence) Ligne 2, colonne A : AI vs Ligne 2, colonne B : Machine Learning.
À droite, le Private Cloud Compute. Tournant sur du matériel Apple fort sécurisé et équipé d’un OS fait sur mesure. Aucune donnée sauvegardées. Des modèles plus larges puisque par exemple le modèle de langage supportera un vocabulaire de 100K au lieu de 49K et plus de langues et de termes techniques. A la demande de l’utilisateur, celui ci pourra parler avec chat-gpt d’openAI. Gratuitement avec compte anonyme ou avec compte chatGPT qui pourra être payant. Ce sera la version chatGPT 4o auquel l’utilisateur aura accès. Disponible en bêta fin de cette années en anglais américain seulement et sur liste. Plus tard en 2025 étendu à d’autres pays d’autres langues et même d’autres OS (visionOS, watchOS, HomePodOS ?)
À gauche, l’iPhone 15 Pro équipé de iOS 18 et A17 Pro. Logo de Apple Intelligence sur l’écran de l’iPhone 15 Pro. Apple Intelligence Orchestration. C’est lui qui décidera en toute transparence pour l’utilisateur de tout faire en local ou de faire appel au Private Cloud Compute. Plusieurs modèles on device dont un pour le langage et un autre pour l’image. Celui pour le langage a 3 milliards de paramètre et un vocabulaire de 49K. Celui de l’image est castré pour ne pas générer d’image photorealistique. Le Semantic Index sera construit sur base de vos données personnelles. Siri en tirera bénéfice. On a aussi des outils d’aide à l’écriture et image playground pour aider à la créations d’images excepté les images photoréalistiques. Toutes les apps auront la possibilité d’alimenter le Semantic Index mais aussi de s’intégrer encore plus avec Siri grâce à l’App Intents Toolbox. En bas, rappel que l’A17 Pro est équipé de 8Go Ram de CPU, GPU, Neural Engine et Secure Enclave.
On part d’un modèle en FP16 qu’on réduit en INT8. En dessous un dessin où l’on voit au-dessus des cases FP16 ayant comme nombre 12.5, -300.0, 11, 17, 0 Qui deviennent des nombre entiers.
Ancienne doc, jusqu’à la semaine passée incluse : In newer hardware, e.g. iPhone 15 pro (A17 pro), there is increased int8-int8 compute available on NE, compared to previous versions. Hence, activation and weight quantization for networks running on NE can give even more latency gains, as seen in the examples in the performance impact section. Nouvelle doc mise à jour cette semaine : On newer hardware, e.g. iPhone 15 pro (A17 pro), quantizing both activations and weight to int8 can leverage optimized compute on the Neural Engine. This can help improve runtime latency in compute-bound models.
À gauche, les extrait de communiqués de presse de l’A14 et l’A15 comme repris sur l’image précédente. À droite de celui de l’A14, celui du M1, indiquant que l’ANE peut exécuter 11 000 milliards d’opérations par seconde. Tout comme l’ANE du A14. À droite de celui de l’A15, celui du M2, indiquant que son ANE peut exécuter 15 800 milliards d’opérations par secondes. Tout comme l’ANE de l’A15. Ces chiffres sont donc donnés pour des calculs en FP16. En dessous du communiqué de l’A15, celui de l’A16, capable d’effectuer près de 17 000 milliards d’opérations par seconde. A sa droite, celui du M3, capable d’effectuer 17 600 milliards d’opérations par seconde. Un peu mieux que l’A16 car bénéficiant du passage au 3nm. En dessous de l’A16, le communiqué de l’A17 Pro indiquant 35 000 milliards d’opérations par seconde. À côté du communiqué de l’A17 Pro, celui du M4 indiquant 38 000 milliards d’opérations par seconde. Ce qui s’explique par un passage à une gravure en 3nm de 2ème generation.
À gauche, le graphe issu du document avec pour chaque puce allant de l’A11 à l’A15, les nombres en TFlops FP16. À droite des extraits des communiqués de presse concernant le Neural Engine de chacune de ces puces. Pour la puce A11: Le nouveau système neuronal de l’A11 […] effectue jusqu’à 600 milliards d’opérations par seconde […]. Pour la puce A12: Un nouveau design huit cœurs lui permet d’effectuer jusqu’à 5 000 milliards d’opérations à la seconde … Pour la puce A13: La puce A13 Bionic a […] un Neural Engine huit cœurs dédié, capable de réaliser cinq mille milliards d’opérations à la seconde, Pour la puce A14 : la puce A14 Bionic renferme un nouveau Neural Engine à 16 cœurs, […]capable d’effectuer jusqu’à 11 mille milliards d’opérations par seconde, Pour la puce A15 Capable d’effectuer 15 800 milliards d’opérations par seconde, le Neural Engine 16 cœurs accélère les tâches d’apprentissage automatique dans les apps tierces.
Capture image de l’article apple https://machinelearning.apple.com/research/neural-engine-transformers On y lit ceci ANE Peak Throughput (FP16) Bar chart showing iPhone 13 Pro with A15 has a peak throughput of 15.8 teraflops. Bar chart showing iPhone 12 Pro with A14 has a peak throughput of 11.66 teraflops. Bar chart showing iPhone 11 Pro with A13 has a peak throughput of 5.4 teraflops. Bar chart showing iPhone XS with A12 has a peak throughput of 5.4 teraflops. Bar chart showing iPhone X with A11 has a peak throughput of 0.6 teraflops. iPhone 13 Pro with A15 15.8 TFlops 26x iPhone 12 Pro with A14 11.66 TFlops 20x iPhone 11 Pro with A13 5.4 TFlops iPhone XS with A12 5.4 TFlops iPhone X with A11 0.6 TFlops Figure 1: The evolution of the Apple Neural Engine, 2017 to 2021. The 16-core Neural Engine on the A15 Bionic chip on iPhone 13 Pro has a peak throughput of 15.8 teraflops, an increase of 26 times that of iPhone X."
Capture image communiqué de presse Apple de mai 2024 concernant la puce M4 https://www.apple.com/fr/newsroom/2024/05/apple-introduces-m4-chip/ Une image représentant la nouvelle puce M4 met en avant son Neural Engine et souligne 1) son design 16 cœurs ainsi que 2) sa rapidité et son efficacité énergétique accrues. La légende dit ceci : La puce M4 renferme le Neural Engine d’Apple le plus puissant à ce jour, puisqu’il peut effectuer 38 000 milliards d’opérations à la seconde – une vitesse 60 fois supérieure au premier Neural Engine, à l’ère de la puce A11 Bionic.
Capture d’écran Tech Talks de l’app developer Tech Talks • Explore GPU advancements in M3 and A17 Pro. 9 novembre 2023. Durée 29 minutes • Discover new Metal profiling tools for M3 and A17 Pro 9 novembre 2023. Durée 33 minutes • Learn performance best practices for Metal shaders 9 novembre 2023. Durée 26 minutes • Bring your high-end game to iPhone 15 Pro 9 novembre 2023. Durée 16 minutes • Meet rule-based matchmaking in Game Center 9 novembre 2023. Durée 17 minutes
Montage grossier fait par @leleynote.pomhello.fr dans le métro ce matin sur son iPhone où l’on voit deux puces M3 Pro reliées entre elle par le bus fusion, tout comme la M2 Ultra est l’assemblage de deux puces M2 Max reliées par le bus fusion.
À gauche le M3 Max, dont on coupe la partie basse comme c’était le cas pour le M2 Max comparé au M2 Pro. Au milieu le M3 Max coupé, pour bien se faire une idée de ce à quoi ressemblerait la puce. À droite le M3 Pro. On voit très bien qu’il est beaucoup plus petit que juste la version castrée du M3 Max. Une version castrée du M3 Max représente - 57% plus grande que celle du M3 Pro, - moins de dies par gaufrettes, et donc des coût plus élevés - moins de volumes disponibles - plus puissant qu’un M3 Pro.
Capture écran du keynote d’octobre 2023, où l’on devine la carte mère du MacBook Pro équipé de la puce M3 Pro, avec deux ventilateurs de chaque côté. Photo fortement agrandie et donc de piètre qualité car elle apparaissait en petit sur l’écran lors du keynote.
Capture écran Keynote octobre 2023 où l’on voit les flux d’air autour du seul ventilateur de ce MacBook Pro 14 pouces. Deux flux d’air (arrière et côté droit du MacBook Pro) rentrant dans l’unique ventilateur pour ressortir à l’arrière de la machine. Et la VP Hardware de dire à ce moment là : « Et lorsque vous utilisez des apps pro ou jouez à des jeux, le système thermique avancé maintient les performances phénoménales de la M3 »
Capture écran Keynote fin octobre 2023 où l’on voit les entrailles du MacBook Pro 14 pouces équipé de la puce M3. On y voit, à gauche, 2 puces SSD, ce qui est rassurant pour les performances de celles-ci, au centre la puce M3, et à droite l’unique ventilateur. En bas, les 6 éléments de batteries, et sur les côtés les deux haut-parleurs et leur subwoofers.
Ce slide a été réalisé par Frederic_Orange. À gauche, le Die de la puce M3 avec la mention « mass market » design située en dessous. Au dessus on y lit : 8 CPU : 4🔥+4❄️ 10 GPU 8/16/24 Go RAM LPDDR 100Go/s À sa droite, le Die de la puce M3 Pro avec la mention « Intermediate » design située en dessous. Au dessus on y lit : 12 CPU : 6🔥+6❄️ 18 GPU 18/36 Go RAM LPDDR 150Go/s À sa droite, le Die de la puce M3 Max avec la mention « Pro design » située en dessous. Au dessus on y lit : 16 CPU : 12🔥+4❄️ 40 GPU 36 … 128 Go RAM LPDDR 400Go/s À sa droite, l’hypothétique M3 Ultra qui est deux M3 Max relié par le bus Fusion. Avec la mention « soon M3 Ultra » Au dessus on y lit : 32 CPU : 24🔥+8❄️ 80 GPU … 256 Go RAM Au lieu des 24 cœurs CPU 16🔥+8❄️, 76 cœurs GPU et 192 Go de mémoire vive du M2 Ultra.
Apple Silicon M3 expliquée. Le bus mémoire en haut En bleu, les 10 cœurs GPU En rouge, 4 cœurs CPU performant. En vert les 4 cœurs CPU efficient En mauve le Neural Engine À droite, le Média Engine En jaune les caches Les 2 contrôleurs Thunderbolt en bas.
Score GeekBench MacBook Pro 14 avec puce M3 et 16Go mémoire 3076 en simple cœur 11863 en multi-cœurs.
Dynamic Cache (à droite) va allouer dynamiquement la cache mémoire nécessaire à ce que demande le GPU. Le développeur n’a plus besoin de réserver à l’avance ce cache mémoire, au risque de sous utiliser ou réserver trop de cache.
Capture écran fichier https://projects.blender.org/blender/blender/src/commit/f2bb4c617f2ecb0802f9bb01876ef7ca5eba702e/intern/cycles/device/metal/kernel.mm if (MetalInfo::get_device_vendor(mtlDevice) == METAL_GPU_APPLE) { switch (MetalInfo::get_apple_gpu_architecture(mtlDevice)) { default: case APPLE_M3: /* Peak occupancy is achieved through Dynamic Caching on M3 GPUs. */ for (size_t i = 0; i < DEVICE_KERNEL_NUM; i++) { occupancy_tuning[i] = {64, 64}; } break; case APPLE_M2_BIG: ...l
Nouvelle photo de profile où l’on voit la puce Apple Silicon M3 avec dégradé de bleu sous fond noir
Capture écran vidéo keynote du 31 octobre à 1:00, heure de Paris. On voit un labo remplis de tables et différents Mac de toutes sortes sur les tables avec Johny Srouji au fond du labo qui nous dit ceci : Welcome to my lab. Ce qui se traduirait par Bienvenue dans mon labo.
La puce Apple Silicon M3, à gauche, M3 Pro, au milieu et M3 Max à droite.
Logo de la pomme croquée d’Apple tout en noir. Avec le slogan « Scary fast. » affiché en-dessous. En direct dans 3 heures. 31 octobre à 01:00 Bouton « M’avertir »
Image apple.com où l’on voit sur la gauche la puce Apple Silicon M1 PRO (dominance couleur bleue), avec écrit en-dessous .scary fast. Sur la droite, la puce Apple Silicon M1 MAX (dominance couleur mauve) avec, écrit en-dessous scary faster.
Magnifique photo de l’Apple Park la nuit. Image provenant du compte de @adriansenn.bsky.social