למרות שאני מבין שהפרק הזה בכוונה מציג את הצד האופטימית של היכולות הפוטנציאליות של הבינה המלאכותית, אני חושב חשוב גם להדגיש את הסיכונים, כדי לאזן את האופטימיות של
stakeholders
המצוטטים—שמשקיעים רבות בשכנוע האנושות לקנות את החזון של בינה מלאכותית שימושית, בטוחה וכלכלית
אני מודאג שבמקום לבסס את האופטימיות בהצגת תוכנית מחקר וההנדסה אסרטגית, הם מצדיקים אותה בכך שהם מצביעים על נפלאות ה
Scaling and emergent properties
שאנו רואים במדעי הטבע
לתעון הזאת אין רגלים. מערכות בינה מלאכותית אינן מערכות טבעיות. הן נוצרות על ידי בני אדם ומבוססות לחלוטין על קלט שניתן להן על ידי בני אדם
אומנם בני אדם הם לעיתים אינטליגנטיים, אך הם גם סובלים מהטיות, רעש, אג'נדות ומקורות אחרים של עיוותים. כן, בני האדם הם חלק מהטבע, אך הם גם היצורים היחידים שמנסים להתגבר על מגבלות הטבע. בכך, הם מסתכנים בפגיעה באיזון האינהרנטישבטבע
לאורך ההיסטוריה, בני האדם הזיקו לטבע במרדף הבלתי פוסק אחר עושר, כח, והנאה
השפעתם המערערת של המגבלות האנושיות מתעצמת כאשר לוקחים את הפלט של מיליוני אנשים—כל אחד עם ההטיות, הרעש וההשקפות הסותרות שלו—ומנסים לחלץ ממנו אינטליגנציה ואמת
הישענות על מדעי הטבע היא אסטרטגיית יחסי ציבור נוחה כאשר יוצרים גולם שאינך מבין או שולט בו לגמרי, ובמצב שבו אין לך תוכנית הנדסית שממזערת סיכונים תוך מקסום הצלח.
אני מסכים עם הרבה ממה שכתבת, ואם תאזין גם בפרקים הבאים, אתה תראה הדים לדברים שאתה אומר כאן מופיעים שם.
חשוב לי רק להבהיר למה אני מתכוון במילה "אופטימיים", כיוון שאולי זה קצת מטעה. הכוונה שלי היא רק לציר "סקפטי\אופטימי" לגביי השאלה, האם ניתן ברמת העיקרון לייצר אינטלגנציה מלאכותית. הסקפטים טוענים שלא, האופטימיים - שכן. וזה נפרד מהשאלה אם זה דבר טוב לאנושות או רע לאנושות שדבר כזה יהיה אפשרי (או בלתי אפשרי).
בגדול, יכולת טכנולוגית גבוהה אינה מגיעה לצערנו עם הבנה מוסרית עמוקה או עם שליטה מספקת על הכלים הטכנולוגיים, על כל המשתמע מכך. וכפי שאמרתי, חכה לפרקים הבאים ואז אשמח לשמוע אם אתה מרגיש שהדברים שאמרת כאן קיבלו מענה.
Maybe AI can solve this terrible mixed RTL and LTR issues.
I'll just add another point I decided to leave out for brevity and because it's philosophy and not engineering.
I believe in creation by design (I.e God) and that's why natural science scale and emergent properties work.
Humans have free choice to go against nature (God's will) and God allows it (tzimtzum) which is why their efforts tend to self destruction over time. For the evolutionists out there, it seems that evolution tends to preserve systems that scale well and show useful emergent properties. I'm not sure if there is an evolutionary equivalent to the freewill and tzimtzum argument.
yeah... AI can solve so many things but my Bluetooth still has issues connecting...
So, just checking if I understand your point: are you asking, is there a materialistic (non-religious) intuitive explanation as to why human efforts degrade over time? I guess that, to whatever degree such a question is well-defined, their position would be one based on the concept of Entropy - all systems tend to degrade to chaos. But perhaps I am not fully understanding your point.
Could be I just "discovered" you after I asked my son to review what I wrote and he replied with an x thread saying "hear is someone who is askng the same sort of things"
למרות שאני מבין שהפרק הזה בכוונה מציג את הצד האופטימית של היכולות הפוטנציאליות של הבינה המלאכותית, אני חושב חשוב גם להדגיש את הסיכונים, כדי לאזן את האופטימיות של
stakeholders
המצוטטים—שמשקיעים רבות בשכנוע האנושות לקנות את החזון של בינה מלאכותית שימושית, בטוחה וכלכלית
אני מודאג שבמקום לבסס את האופטימיות בהצגת תוכנית מחקר וההנדסה אסרטגית, הם מצדיקים אותה בכך שהם מצביעים על נפלאות ה
Scaling and emergent properties
שאנו רואים במדעי הטבע
לתעון הזאת אין רגלים. מערכות בינה מלאכותית אינן מערכות טבעיות. הן נוצרות על ידי בני אדם ומבוססות לחלוטין על קלט שניתן להן על ידי בני אדם
אומנם בני אדם הם לעיתים אינטליגנטיים, אך הם גם סובלים מהטיות, רעש, אג'נדות ומקורות אחרים של עיוותים. כן, בני האדם הם חלק מהטבע, אך הם גם היצורים היחידים שמנסים להתגבר על מגבלות הטבע. בכך, הם מסתכנים בפגיעה באיזון האינהרנטישבטבע
לאורך ההיסטוריה, בני האדם הזיקו לטבע במרדף הבלתי פוסק אחר עושר, כח, והנאה
השפעתם המערערת של המגבלות האנושיות מתעצמת כאשר לוקחים את הפלט של מיליוני אנשים—כל אחד עם ההטיות, הרעש וההשקפות הסותרות שלו—ומנסים לחלץ ממנו אינטליגנציה ואמת
הישענות על מדעי הטבע היא אסטרטגיית יחסי ציבור נוחה כאשר יוצרים גולם שאינך מבין או שולט בו לגמרי, ובמצב שבו אין לך תוכנית הנדסית שממזערת סיכונים תוך מקסום הצלח.
אני מסכים עם הרבה ממה שכתבת, ואם תאזין גם בפרקים הבאים, אתה תראה הדים לדברים שאתה אומר כאן מופיעים שם.
חשוב לי רק להבהיר למה אני מתכוון במילה "אופטימיים", כיוון שאולי זה קצת מטעה. הכוונה שלי היא רק לציר "סקפטי\אופטימי" לגביי השאלה, האם ניתן ברמת העיקרון לייצר אינטלגנציה מלאכותית. הסקפטים טוענים שלא, האופטימיים - שכן. וזה נפרד מהשאלה אם זה דבר טוב לאנושות או רע לאנושות שדבר כזה יהיה אפשרי (או בלתי אפשרי).
בגדול, יכולת טכנולוגית גבוהה אינה מגיעה לצערנו עם הבנה מוסרית עמוקה או עם שליטה מספקת על הכלים הטכנולוגיים, על כל המשתמע מכך. וכפי שאמרתי, חכה לפרקים הבאים ואז אשמח לשמוע אם אתה מרגיש שהדברים שאמרת כאן קיבלו מענה.
Ugh. Going to English.
Maybe AI can solve this terrible mixed RTL and LTR issues.
I'll just add another point I decided to leave out for brevity and because it's philosophy and not engineering.
I believe in creation by design (I.e God) and that's why natural science scale and emergent properties work.
Humans have free choice to go against nature (God's will) and God allows it (tzimtzum) which is why their efforts tend to self destruction over time. For the evolutionists out there, it seems that evolution tends to preserve systems that scale well and show useful emergent properties. I'm not sure if there is an evolutionary equivalent to the freewill and tzimtzum argument.
yeah... AI can solve so many things but my Bluetooth still has issues connecting...
So, just checking if I understand your point: are you asking, is there a materialistic (non-religious) intuitive explanation as to why human efforts degrade over time? I guess that, to whatever degree such a question is well-defined, their position would be one based on the concept of Entropy - all systems tend to degrade to chaos. But perhaps I am not fully understanding your point.
It's getting off topic and I need to think about it....
I'd be delighted to get your feedback on this article.
https://www.linkedin.com/posts/yonatan-lehman-646942_activity-7305589646699208705-H_B1?utm_source=share&utm_medium=member_desktop&rcm=ACoAAAAjgRYBcHT69csxYUBqr-WXEzaOILes9u4
didn't we chat briefly about this in X recently? just making sure I'm not confused.
Could be I just "discovered" you after I asked my son to review what I wrote and he replied with an x thread saying "hear is someone who is askng the same sort of things"
This?
https://x.com/EYRosensweig/status/1899557543971574132?t=iU3qMYO6RN75k3c5hzfozg&s=19